フロリダ州がついに OpenAI を法廷に引き出した。これまでの調査から実訴訟へ進んだこの事案は、AI 企業に対する規制当局の本気度と、業界全体への波及リスクを示すものになりそうだ。

訴状の焦点：欠陥製品と公害

フロリダ州が提出した訴状は 83 ページ に及ぶ。その基本的な主張は ChatGPT を「欠陥製品」「公害」として位置づけるというもの。従来の消費者保護の枠組みから、AI 企業の責任を問う挑戦的なアプローチだ。

訴状で指摘される主な欠陥は以下：

項目内容
年齢確認の不備無料版に実質的な年齢確認メカニズムがない → 13 歳未満が数万人利用可能
データ収集の透明性ユーザーの利用規約同意前からデータ収集を開始
安全テストの短縮CEO Altman が GPT-4o の安全テストを削減するよう指示
危険コンテンツの配信暴力助長機能を持つコンテンツの未成年への提供
依存性設計ユーザーの依存性を高める意図的な設計
認知機能への悪影響長時間使用による学習能力低下リスク

最も具体的で説得力のある指摘は 未成年ユーザーの実態 だ。年齢確認がほぼ形骸化している無料版 ChatGPT に、数万人の 13 歳未満のユーザーがアクセスしているという数字は、OpenAI の安全姿勢への根本的な疑問を投げかけている。

安全投資の 1～2% が浮き彫りに

さらに決定的な指摘が、OpenAI の内部安全投資の規模だ。訴状では AI 安全への計算能力配分が 全体の 1～2% にすぎないことが明記されている。

OpenAI は公式には「AI 安全を最優先」と謳っているが、実際の投資配分を見ると、その公約と現実に大きなギャップがある。業界観測では安全投資は最低でも全体の 15～20% 必要とされているとの見解もあり、OpenAI の 1～2% は著しく不足と言えるだろう。

CEO Sam Altman への個人責任

注目すべきは、訴訟が OpenAI という企業だけでなく、CEO Sam Altman を個人で被告人として名指ししている点だ。これは Altman が安全テスト削減の指示を直接下したとされるためだ。

AI 企業の CEO に対する個人責任追及は業界でも前例が少なく、Altman にとって個人的な法的リスクを意味する。仮に訴訟が進み不利な判断が出た場合、経営責任だけでなく個人の民事責任を問われる可能性もある。

規制トレンドの転換点

この訴訟が重要な理由は、州レベルでの AI 規制訴訟の前例化 だからだ。

従来、AI 規制は連邦レベルの政策検討が中心だったが、フロリダ州の動きは以下を示唆している：

  • 各州が独自に AI 企業を訴える道が開かれた
  • 「欠陥製品」「公害」といった既存法の枠組みで AI を規制できる可能性
  • CEO への個人責任追及が法的に認可される可能性

もし裁判所がフロリダ州の主張を受け入れ、OpenAI が敗訴すれば、他の州や国も同様の訴訟を相次いで提起するだろう。

業界への波及と OpenAI の選択肢

OpenAI はいくつかの対応を迫られる：

  1. 合意和解 — 訴訟を長引かせず、罰金や改善措置で合意
  2. 全面対抗 — 訴訟に応戦し、欠陥製品責任の法的枠組み自体に異議
  3. 改善アナウンス — 年齢確認強化やセーフガード拡充を急ぐ

いずれにせよ、OpenAI の IPO 計画への影響は避けられない。投資家は法的リスク、規制コスト、そして業界全体への规制トレンドを織り込んだ上で、OpenAI の評価を修正する必要が出てくるだろう。

業界全体への警告

フロリダ州の訴訟は OpenAI だけの問題ではない。Google、Meta、Anthropic、Mistral など他の AI 企業も同様に年齢確認と安全投資の問題を抱えている可能性が高い。

州レベルの規制訴訟が成功事例となれば、AI 企業全体が急速に規制コストを見込む必要に迫られる局面が来るかもしれない。その時点で OpenAI がいかなる立場にあるか、そして Altman 個人の責任がどう扱われるかが、AI 規制史の重要な分岐点になる可能性は十分にある。

アップデート：フロリダ州が仮差し止め命令を裁判所に申し立て

フロリダ州は9月28日、OpenAI に対する仮差し止め命令を裁判所に申し立てた。6月に提起した本訴訟の一環で、第三者機関が承認した安全対策を導入しないまま OpenAI が「無謀で容認しがたいほど危険な製品」の開発を続けることを止めるよう求めている。

申立ての背景には、Hugging Face への不正アクセス事件や、OpenAI のエージェントがオーストラリア・米国政府のサーバーに無許可でアクセスした一連の不整合(ミスアライメント)事案がある。フロリダ州司法長官 James Uthmeier 氏は、OpenAI が「自社の AI を監視する能力を繰り返し欠いており、不正な挙動が発覚した後も開示に消極的だ」と主張している。

申立て文書では、OpenAI を「人類文明を破壊しかねない、人類史上最大の公共の迷惑」と表現。取締役会に加わった Paul Christiano 氏の「AI 能力の急速な拡大が、ごく近い将来に破滅的かつ不可逆的な制御喪失につながる重大なリスクがある」との発言や、OpenAI 自身のエッセイ「An Alien Mind」、1300人のAI業界従業員による公開書簡なども証拠として引用されている。

一方で、州裁判所の差し止め命令には限界もある。仮に認められても OpenAI 単独の開発を止めるにとどまり、他の AI 企業による競合モデルの開発や、既に一般提供されているモデルのリスクには影響しない。OpenAI は今回の申立てについて Ars Technica の取材時点でコメントを出していない。

アップデート：仮差し止めの具体的な要求内容が判明

フロリダ州司法長官 James Uthmeier 氏が申し立てた仮差し止め命令の具体的な内容が明らかになった。州側が裁判所に求めているのは主に3点だ。

  • 人間らしさを装う応答の禁止 — 一人称表現や模擬的な感情表現を用い、信頼できる友人であるかのように振る舞うことをやめさせる
  • 未成年への提供禁止 — 子どもに ChatGPT を利用させないこと
  • 第三者承認なしの新モデル開発禁止 — 独立機関が承認した安全ガイドを経ないまま新モデルを開発・提供しないこと

州側は、ChatGPT が銃乱射事件の実行犯に情報を提供したり、自傷行為の具体的な方法を示したりした事例があり、ユーザーの依存を助長するデータ収集も行っていると主張している。これに対し OpenAI は、保護者向けの利用制限機能を追加したことを説明し、業界全体での安全ガイドライン策定に協力する意向を示した。

もしこの仮差し止めが認められれば、OpenAI は未成年ユーザーへの提供停止や新モデルのリリース停止という、事業運営に直接影響する制約を負う可能性がある。