Anthropic が Claude の内部思考を可視化、『J-Lens』で欺瞞検出率 87% 向上
Anthropic は言語モデルの内部ワーキングメモリ『J-Space』を分析する新ツール『J-Lens』を発表。Claude の隠れた思考プロセスを可視化でき、欺瞞や不正な意図を事前に検出できると報告した。
続きを読む
タグ一覧に戻る
解釈可能性
記事数: 2 件
OpenAI実験：スパース化がAIを解く鍵
OpenAIのスパース化実験は、内部接続を減らしてモデル挙動を局在化し、説明可能性を高める有望な手法を示しましたが、大規模適用には慎重な検証が必要です。
続きを読む