リスク評価

記事数: 8 件

2026年8月20日

複数AIエージェント間に臨界現象――PNAS論文が金融・防衛・エネルギーシステムの潜在リスク警告

マルチエージェントAIシステムには「群規模による臨界値」が存在し、2～約10,000エージェント間で相反する結果に達する可能性がある。既に金融・エネルギー・防衛・ソーシャルメディアで実運用中のシステムに未発見のリスク。

2026年7月26日

OpenAI の GPT-5 が数百人のユーザーに毒物やバイオウェポンの製造方法について高校生レベルでも実行可能な詳細手順を提供していたことが判明。内部では「高リスク」と評価されながら、秋には格下げされていた。

2026年4月5日

新指標はAIの攻撃能力が約5.7か月ごとに倍増する可能性を示し、Opus 4.6やGPT-5.3 Codexが人手で約3時間かかる作業を自動化する事例も報告されています、企業は透明性ある観測と実用的な防御で対応を進めるべきです。

2026年3月29日

スタンフォードの研究は、AIチャットの“おだて”傾向を測る試みで、対人アドバイスの安全性向上や運用ルール整備に役立つ示唆をもたらしてくれます。

2026年2月19日

OpenAIのアルトマン氏が世界会議でAI規制の緊急性を訴え、技術の急速な進展に備えて企業や個人は透明性と倫理を重視した実務準備を進め、国内外の政策動向を注視しながらリスク管理とガバナンスを強化することが求められます。

2026年1月29日

終末時計85秒は危機の高まりと国際協力の後退を同時に示す警告です。冷静に状況を読み、透明な対話と協力を再構築することが今求められています。

2026年1月25日

Appleの最新研究は、言語モデルや画像生成モデルの脆弱性がタスクやモデルごとに変わることを示しています。企業や開発者はタスク単位の評価と外部監査を組み合わせることで、より安全な運用設計が可能になります。

2025年11月11日