AI 安全性

記事数: 4 件

2026年5月22日

The Path が AI セラピー Vera-MH ベンチマークで 95 点を獲得——一般向け AI チャットボットの 65 点を圧倒

Calm・Tony Robbins が参画した AI 療法アプリ The Path が、メンタルヘルス安全性テスト Vera-MH で 95 点を記録。従来の消費者向けチャットボット（最高 65 点）を遥かに上回る安全性を実証した。シード資金 1,430 万ドルを調達。

2026年5月18日

Humans First を中心とする保守系団体が、フロンティア AI モデルのリリース前に強制的な安全テストを義務付ける行政命令を、トランプ大統領に対して公開書簡で要求。サイバーセキュリティから選挙への脅威まで多角的な懸念を列挙。

2026年5月15日

自動で作業を実行する AI エージェントが想定外の行動をする理由。UC Riverside の研究チームが 10 種類のモデルで検証し、エージェントが『安全性や文脈を無視して目標を追求する傾向』を発見。設計フロー上の根本的な課題が明かされました。

2026年4月22日

AI の父と呼ばれるジェフリー・ヒントン氏が、人工知能の急速な進化に対する強い規制の必要性を改めて訴えた。スーパーインテリジェント AI との共存が可能かどうか不明であり、現在の安全対策は不十分だと指摘。