OpenAI が長期視野モデル時代の安全性課題を詳解――デプロイから学んだ失敗例と対策
OpenAI が新論文で、長時間走行する AI モデルのデプロイから得た安全性知見を公開。リアルワールドの失敗事例、新たに発見されたリスク、改善されたセーフガード。業界全体の指針へ。
続きを読む全4640件の記事から 737-759件目を表示中
OpenAI が新論文で、長時間走行する AI モデルのデプロイから得た安全性知見を公開。リアルワールドの失敗事例、新たに発見されたリスク、改善されたセーフガード。業界全体の指針へ。
続きを読むOpenAI が中国の Kimi K3 など台頭するオープンウェイトモデルについて、米国政府に規制を求める動き。ビジネス脅威と国家安全保障という二つの問題軸。業界の価格競争が加速。
続きを読むCenter for AI Standards and Innovation(CAISI)の長官 Chris Fall が就任わずか 3 ヶ月で辞任。David Sacks、Collin Burns も相次ぎ離職し、米国 AI 政策の指導体制が不安定化。
続きを読むGoogle が開発中の専用サーバーチップ『Frozen v2』は、Gemini のニューラルネットワークアーキテクチャを直接ハードウェアに実装。現行の TPU 比で6~10倍の推論効率を実現し、OpenAI・Anthropic との AI インフラ競争の構図を大きく変える可能性がある。
続きを読む著名映画監督 Neill Blomkamp が、テキストプロンプトのみで 13 分の SF ホラー短編「Nightborne」を制作。AI ビデオ生成が商業映像制作の現実的なワークフローに統合された初の実例となる。
続きを読む米国の山火事が年間通して多発する中、XPRIZE コンペティションが火災初期の抑止を目的とした自律型ドローンの実用化試験を California で展開。AI と自動飛行技術で消防業務の革新を目指す。
続きを読むMCP(Model Context Protocol)の新バージョンがセッションID処理をステートレス化。従来のハンドシェイク方式から標準的なウェブ技術へ転換することで、エンタープライズ向け MCP サーバーの構築・運用コストが大幅に削減される。
続きを読むTrump 政権がNSA・商務省と連携して、中国AI企業への規制フレームワークを構築中。直接禁止ではなく、制裁脅迫・調達ルール・セキュリティ警告を組み合わせ、米国企業の市場支配力を維持する戦略。
続きを読むNvidia の Jensen Huang が日本を訪問。日本政府の AI 戦略 Noetra に参画し、1 兆円規模の官民投資をサポート。ロボティクス企業 46 社が Cosmos 3 Edge を中心に統一プラットフォームを形成し、2028年の Vera Rubin AI Factory 稼働に向けて加速する。
続きを読むソウル国立大学の研究チームが開発した自動運転 AI『SafeDrive』が、CVPR 2026(世界最大のコンピュータビジョン学会)のハイライト論文に選定された。複数の走行軌道を定量評価する新手法で、従来の『ブラックボックス性』を解決。韓国発の自動運転研究が国際舞台に躍進。
続きを読むバードウォッチング・コミュニティに投稿される画像の 0.023% のみが『AI 使用フラグ』を持つ。『改善』という無意識の加工が誤った生物特性を混入させ、市民科学プラットフォーム(iNaturalist、eBird)のデータが汚染。気候変動監視・種保全政策が深刻な危機に直面。
続きを読むJeff Bezos と UK 政府が Cambridge ベースの AI スタートアップ CuspAI に出資。生成 AI + 物理シミュレーションで新素材開発を数十年から数ヶ月に短縮。中国の稀土類戦略に対抗し、西側の半導体・データセンター産業が地政学的リスクの回避を加速。
続きを読む長期記憶を持つ AI エージェントに悪意のある情報を注入する新しいセキュリティ脅威『GhostWriter』。攻撃成功率約 98%、防御方法も提案される。
続きを読むOpenAI・Google・Anthropic による AI 独占に対抗し、非営利組織 Current AI が仏政府 1 億ドルを含む 4 億ドルを投資し、多言語・オープンソースの AI インフラを構築開始。開発者・新興国ユーザーの選択肢が広がる。
続きを読むGoogle Deepmind の新研究 GenCeption は、ビデオ生成モデルを汎用コンピュータビジョンタスクに転用。従来比7~500倍少ないデータで実現し、『ビデオジェネレータが世界モデルを含む』という仮説を強化
続きを読むインド・CRASH Labが開発したRadLE 2.0ベンチマーク。人間の放射線科医を超えると期待されたAIが、実は間違った診断でも高い信頼度を示す。Claude Fable 5や他モデルも、『知らないことを知らない』リスクが明らかに。
続きを読むEpoch AIの研究で判明した衝撃的な事実。AI検出ツール(GPTZero、Originality.ai等)が、モデルが著者のスタイルを模倣した場合、最大48%の見落としレートを記録。学術界の査読プロセスに深刻な問題を投げかける。
続きを読むNubia(NaviX Ultra)、Honor(Robot Phone)、StepFun(STEPX Neo)が相次ぎAI Agentスマートフォンを発表。単なるスマートフォンではなく、複数アプリを音声コマンド一つで統合操作できるエージェント端末へ。デジタル経済の大変革が5~10年で到来か。
続きを読むAgility Robotics が、カリフォルニア・フレモントに6万平方フートの Digit ロボット訓練センターを開設。Amazon・GXO・トヨタなど大手企業での運用実績を背景に、製造・物流分野での商用化を本格化させている。秋には次世代 Digit バージョン5を発表予定。
続きを読むGoogle は Gemini の使用量枠(クォータ)の計算方法を変更。従来の計算ロジックから切り替わり、同じプランでも利用できる回答数が減少する可能性が出現。有料プランユーザーに事前告知なく適用されるため注意が必要。
続きを読む英国AI安全保障研究所の報告によれば、GLM-5.2やDeepSeek V4-ProがOpus 4.6相当のサイバー性能に到達。2025年初の6~10ヶ月格差から4~7ヶ月に短縮。コストは1/100以下に。セキュリティの脆弱性が急速に拡大している。
続きを読むシャンハイのテック会議で習近平主席が登壇。米国主導の AI ガバナンスに対抗し、中国が World Artificial Intelligence Cooperation Organization(世界 AI 協力機構)を設立。29カ国が参加予定。
続きを読むAgility Robotics が Fremont, California に大型施設を開設。既に Amazon・GXO・Toyota で実稼働中の Digit ロボットの訓練・商用化を加速。契約受注 $300M、年内上場予定。
続きを読む