OpenAI が「カタストロフィック・リスク評価チーム」を解散――安全性重視から方針転換、内部で不安広がる
OpenAI は 7月末に Preparedness チーム（災害対応・カタストロフィック・リスク評価）を解散し、業務を既存チームに再配置。Chief Ethics Officer が離職するなど、内部では「安全性への責任感と不安」が広がっている。
続きを読む
タグ一覧に戻る
リスク管理
記事数: 12 件
Anthropic のバイオウェポン検出フィルタが1年間故障――133万リクエストが無防備な状態に
Anthropic は安全性報告書で衝撃の事実を明かした。同社の生物・化学兵器リスク検出フィルタが2025年5月から2026年4月にかけて約1年間機能していなかった。この間、約50,000人の外部契約者からの133万件のチャットリクエストが無フィルタで処理されていた。
続きを読む
AIエージェント、セキュリティ危機が深刻化——54%の企業でインシデント、認証情報共有が主流
107企業の調査から明らかになったAIエージェントの現実：54%がセキュリティインシデントを経験、ほぼすべてのエージェントが認証情報を共有し、適切な隔離対策を取っている企業は全体の30%未満。エージェント導入の急速な拡大に、セキュリティ対策が追いつかない。
続きを読むAIデータセンター建設ラッシュが銀行にストレステスト——JPMorgan・Morgan Stanley、信用リスク移転へ
大規模なAIデータセンター建設資金需要が銀行の内部リスク限度に達し、JPMorgan Chase や Morgan Stanley などが信用リスクを他の投資家に移転する対応を急速に進めている。380 億ドル規模のローンパッケージも登場。
続きを読む
高度AIが欺瞞を見抜けない理由と対策
この記事はChatGPTなどの高度AIが示す説得力と情報源の課題を分かりやすく解説し、医療・法務・金融での実践的な検証手法、透明性強化の具体策、日常で使えるチェックリストまで提案します
続きを読む
ワシントン州、AIに心の健康対策を検討
ワシントン州が対話型AIに心の健康対策の導入を検討しており、利用者の安全性を高めつつ企業と医療・メンタルヘルス専門家が協力して実効的な仕組みを作る動きが始まっています
続きを読む
AIバブルに備える：資産防衛の5つの視点
AI熱は大きなチャンスである一方、過熱リスクもあります。本記事は専門家の指摘を踏まえ、分散・流動性・保有比率見直しなど資産を守る具体策を5点でわかりやすく示します。
続きを読む
図解でみる2026年の世界経済リスク
AIの普及と貿易ルールの変化が鍵となる2026年の世界経済を、図解で5つの視点から整理しました。中央銀行の動きや地域差を踏まえ、柔軟な準備とシナリオ策定が有効です。
続きを読む
OpenAIが備え担当（Head of Preparedness）を募集
OpenAIがHead of Preparedness（備え担当の幹部）を募集しており、サイバーセキュリティやメンタルヘルスなどAIに伴う多様なリスク対策を組織的に強化する動きと受け取れるため、今後の正式発表を楽しみに見守る価値があります
続きを読む
サム・アルトマンの警告が現実に：AIの超説得力と企業の備え
サム・アルトマンの警告が2025年に現実味を帯び、AIが意思決定に影響を与える時代が到来しましたが、透明性の徹底と従業員教育でリスクを抑えつつ生産性向上や新ビジネス創出の機会を安全に活用することが重要です。
続きを読む
MiniMax M2が示す一般化の指針
MiniMax M2と論考「Aligning to What?」は、エージェントの一般化を「何に合わせるか」という問いで再定義します。現場では環境差、リスク、コストを踏まえ、評価軸を明確にすることが実務的な第一歩になります。
続きを読む