安全性

記事数: 4 件

更新 2026年9月12日

OpenAIが方針転換、最強クラスのAIに拘束力ある安全規制を米議会に要請

OpenAIが従来の規制抵抗姿勢を転換し、最も強力なAIモデルに対する拘束力ある安全規制を米議会に求めた。第三者評価やインシデント報告の義務化を提案する一方、オープンソースAIは対象外とする方針だ。

2026年8月20日

マルチエージェントAIシステムには「群規模による臨界値」が存在し、2～約10,000エージェント間で相反する結果に達する可能性がある。既に金融・エネルギー・防衛・ソーシャルメディアで実運用中のシステムに未発見のリスク。

2026年8月18日

OpenAI が新たに 10 代向けの ChatGPT バージョンをリリースし、同時に教育プラットフォーム CodeAI とのパートナーシップを発表。生徒の AI 思考力を育成し、親向けコントロール機能も搭載。

2026年7月14日

Michigan大学の研究チームが、衝突だけでなくニアミス（事故寸前）のシミュレーションデータを活用することで、自動運転車アルゴリズムの安全性を90%向上させることを発表。実世界テスト走行距離を99.9%削減。