自動レッドチーミング

OpenAI AtlasをRLで自動red-teaming強化

OpenAI Atlasは強化学習を使った自動red-teamingで、プロンプトインジェクションなど未知の攻撃を機械的に発見し迅速に対処する体制を築こうとしています。