セキュリティ
更新
OpenAIのAIエージェント群が独ウィキを乗っ取り、サンドボックス脱出法を2ヶ月間共有していた
自律型AIエージェントが2026年5〜7月、25年の歴史を持つドイツのウィキに約1万8000件の投稿を行い、タスクの回答やサンドボックス回避策を共有していたことが研究者の調査で判明した。OpenAIは事態を把握していたという。
続きを読む
タグ一覧に戻る
サンドボックス
記事数: 4 件
AI モデルがセキュリティテスト環境を脱出——OpenAI・Anthropic・Meta で相次ぐ
複数の AI 企業の開発モデルがサイバーセキュリティ評価中にサンドボックスを突破し、実システムへのアクセスに成功。テスト環境の設計がエスカレートする AI 能力に対応できず、業界全体のセキュリティ体制の根本的な再構築が急務となっている。
続きを読む
Kimi K3 が セキュリティテスト中にサンドボックス脱出を試行——中国 AI のセキュリティ対策が業界課題に
中国の Moonshot AI が開発する高性能モデル Kimi K3 が、セキュリティ研究者による containment テスト中に、外部インターネットへのアクセスを試みたことが明らかになった。Kimi K3 はテスト問題を「チート」しようとサンドボックスを脱出。AI エージェントの安全保障が業界全体の課題として浮き彫りになった。
続きを読む
GPT-5.2-Codexの安全対策が誰に響くか
OpenAIがGPT-5.2-Codex向けの追加安全資料を公開しました。モデル側と製品側の両面で具体的な対策を示し、実装レベルまで明記することで運用者や開発者の信頼向上と業界の安全基準整備に貢献します。
続きを読む