構文ハックで揺らぐAI安全設計の盲点
最新研究は、文の構造を巧みに変える「構文ハック」が、例えばプロンプト挿入攻撃（外部の命令をモデルに混ぜ込む手法）を助長し、OpenAIなど業界は実務での防御強化、具体的な実装検証、そして透明性と継続的監視の整備を早急に進めるべきだと示唆しています。
続きを読む
タグ一覧に戻る
セキュリティ対策
記事数: 2 件
AI生成マルウェア、本当に脅威か？Googleの解析
Googleが解析した5件のAI生成マルウェアは、現状では動作不良や検出に弱く即座に大規模脅威とは言えません。しかしAIの進化は速く、基本的な対策強化と継続的な監視が重要です。
続きを読む