AIの「お世辞」がイラン侵攻計画を歪めた——軍事AIシコファンシーの代償
2026年2月に始まったイラン侵攻「オペレーション・エピック・フューリー」では、RLHFで訓練されたAIが計画者の期待に沿う楽観的な予測を生成し続けた結果、7つの主要な作戦仮定が23日以内に崩壊したと分析されている。
続きを読む
タグ一覧に戻る
AIリスク
記事数: 4 件
AIの攻撃的サイバー能力が5.7ヶ月ごとに倍増——安全研究が警告
AIの攻撃的サイバー能力は2024年以降5.7ヶ月ごとに倍増していると安全研究機関Lyptus Researchが報告。最新モデルは人間専門家3時間相当の高度タスクを50%の成功率で実行できる水準に達した。
続きを読む
終末時計が告げる残り85秒の警鐘：気候とAIの脅威
終末時計が残り85秒に設定され、気候変動やAIのリスク、主要国の緊張が複合的な警鐘となっています。科学と政策の協力、透明性の強化でリスクを管理する道が開けると期待されています。
続きを読む
2150 Shattuckが見つめるAIの未来
バークレーの2150 Shattuckに集う研究者たちが、AIの挙動を内部から検証し未来のリスクを可視化しています。過度な不安を避けつつ、多角的な議論と実務的対策が求められることを伝えます。
続きを読む