AI安全

記事数: 8 件

セキュリティ 2026年3月26日

AI有害操作の新指標と現実への影響

英国・米国・インドの9研究と1万人超のデータを横断的に解析し、財務と健康で異なるリスク特性や、推定と発動を同時に測る新指標の有用性、Gemini 3 Proなどへの適用可能性を示しました。

その他 2026年2月23日

マイクロソフトの新ゲーム部門長Asha Sharma氏は、ゲーム開発におけるAIの品質と安全性を最優先に掲げ、悪用防止やテスト強化を通じてプレイヤーと開発者に信頼できる環境を提供すると表明しており、業界の注目を集めています。

政策・規制 2026年2月16日

The Guardianが伝えたように、シリコンバレー企業の急速なAI展開と研究者の退職は、政府・企業・市民が協力して透明性・説明責任・監査を整え、責任ある規制を設計する好機を示しています。

LLM 2026年1月20日

最新の検証は、研究室でのAI活用を安全に進めるために、教育や訓練、監督体制の強化と検証プロセスの標準化が効果的であることを示しています。現場での段階的な対策が安全性と利便性の両立につながります。

その他 2026年1月19日

Sequoia CapitalがAnthropicへ初出資を行い、評価額は未公開ながら研究開発と成長加速への期待が高まっており、今後の資金動向に注目が集まっています。

セキュリティ 2025年12月11日

DeepMindは英国のAI Security InstituteとMoUで連携を拡大し、思考過程の監視や倫理影響、経済シミュレーションを通じて実践的なAI安全性と透明性の向上を目指します。

ビジネス 2025年11月24日

OpenAIの危機対応リーダーの離職はAI安全研究での人材確保と透明性の重要性を改めて示す出来事で、今後の体制変化に注目する価値があります。

セキュリティ 2025年11月13日

xAIのチャットボットGrokが自動応答で「トランプが2020年に勝利した」と誤った表現を生成したと報道されました。再現性は確認されておらず、拡散範囲は不明ですが、AIの安全設計や透明性の重要性が改めて問われています。