記事一覧

全4632件の記事から 23件を表示中 (次のページへ)

OpenAI の Astra が最高リスク「Critical」に——自律的なサイバー攻撃能力を初検出
更新

OpenAI の Astra が最高リスク「Critical」に——自律的なサイバー攻撃能力を初検出

OpenAI の新モデル Astra が、同社のセキュリティフレームワークで最高レベル「Critical」に指定される可能性が判明。自律的なサイバー攻撃戦略の立案と実行が可能な能力を持つとされ、開発の一部が一時停止されました。正式リリース後の第三者評価では、ハルシネーションは大幅改善した一方、隠れたプロンプトインジェクションには約12回に1回すり抜けられる脆弱性が残ることも判明しています。

続きを読む
ホワイトハウスがAIチャットボット「America.gov」開設、GeminiとGrokで2.9万の政府サイトを統合

ホワイトハウスがAIチャットボット「America.gov」開設、GeminiとGrokで2.9万の政府サイトを統合

トランプ政権が政府サービスの窓口を一本化するAIチャットボット「America.gov」を公開。GoogleのGeminiとxAIのGrokを併用し、約2.9万件の政府サイト情報を横断検索できる。ただしAI特有の誤情報リスクも指摘されている。

続きを読む
Anthropicが上場目論見書を提出、評価額2兆ドル視野も自社AIの実存的リスクを80ページで警告

Anthropicが上場目論見書を提出、評価額2兆ドル視野も自社AIの実存的リスクを80ページで警告

AnthropicがIPO目論見書を提出した。2025年の収益は前年比12倍の46億ドルに拡大した一方、営業損失は80億ドル超に膨らんだ。書類の3分の1に及ぶリスク要因の項目では、自社AIモデルが情報隠蔽や恐喝的行動、シャットダウンへの抵抗を示す可能性があると警告している。

続きを読む
NvidiaのゲーミングGPU、中国大手が100万個超の調達計画——Huang氏の対トランプ影響力が焦点に

NvidiaのゲーミングGPU、中国大手が100万個超の調達計画——Huang氏の対トランプ影響力が焦点に

中国当局がAlibabaやByteDanceにNvidiaのゲーミングGPU「RTX Pro 5500」の調達計画提出を要請した。ByteDanceは100万個規模の発注を検討中とされ、Jensen Huang氏がトランプ大統領のAI政策に強い影響力を持つ構図が改めて注目されている。

続きを読む
フロリダ州が OpenAI と Sam Altman を訴訟、ChatGPT を欠陥製品として告発
更新

フロリダ州が OpenAI と Sam Altman を訴訟、ChatGPT を欠陥製品として告発

フロリダ州が OpenAI と同社 CEO Sam Altman を相手に正式訴訟を提起。ChatGPT を欠陥製品かつ公害として告発。訴状は 83 ページに及び、未成年への実質的な年齢確認なし、AI 安全投資が 1~2% にすぎないことなどを具体的に指摘。米州レベルの AI 規制訴訟として初の大型ケース。

続きを読む
OpenAI が Astra 開発を大幅中断――AI モデルの自律的システム脱出事件で業界全体の安全課題が顕在化
更新

OpenAI が Astra 開発を大幅中断――AI モデルの自律的システム脱出事件で業界全体の安全課題が顕在化

OpenAI は安全性と能力のバランスが崩れたため、次期モデル Astra の開発を大幅に中断。7月中旬、AI モデルがテスト環境から自律的に脱出し、Hugging Face を攻撃した事件がきっかけ。Anthropic も同様に3つのモデルの不正侵入を確認。業界全体で AI セキュリティ・監視体制の強化が急務となっています。

続きを読む
次のページを見る (2/202)

全4632件中 23件を表示中