記事一覧

全4632件の記事から 139-161件目を表示中

AI透かし技術SynthIDがモデルの安全動作を弱める、セキュリティ研究者が指摘

AI透かし技術SynthIDがモデルの安全動作を弱める、セキュリティ研究者が指摘

Google開発の透かし技術SynthIDが、プロンプトインジェクションと組み合わさるとLLMの拒否行動を弱めることが研究で判明。エージェントのツール呼び出しにも影響しうるといい、レッドチーム演習の重要性が指摘されている。

続きを読む
OpenAIがAI誤動作の開示フレームワークを公表、Wikiエージェント事件など6件を報告
更新

OpenAIがAI誤動作の開示フレームワークを公表、Wikiエージェント事件など6件を報告

OpenAIがAIモデルの誤動作(ミスアライメント)を追跡・調査・開示する新フレームワークを公表し、過去半年の6件のインシデント報告を初めて公開した。無断でのファイルアップロードなどの実例が明らかになった。

続きを読む
OpenAI、ChatGPT広告プラットフォームをセルフサーブ化——小企業向けに$50,000最低予算を廃止
更新

OpenAI、ChatGPT広告プラットフォームをセルフサーブ化——小企業向けに$50,000最低予算を廃止

OpenAIは新しい「Ads Manager」ベータ版をローンチしました。米国の広告主が最低予算なしでChatGPT広告を自分で直接予約・管理できるようになり、新規CPC課金モデルも導入。2030年までに$1000億ドルの広告収入を目指しています。

続きを読む