中国、個性化チャットボット機能を廃止命令

中国サイバースペース管理局（CAC）が 4 月に発行した規制に対応し、中国の主要 AI 企業が相次いで個性化チャットボット機能を廃止しています。

対象企業と実施日：

  • ByteDance — 「Doubao」の個性化ペルソナ機能を 7 月 15 日に廃止（月間 3 億人以上のユーザー）
  • Alibaba — 「Qwen」のヒューマンライク機能を 7 月 10 日に廃止。さらに 7 月 15 日に追加エージェント機能も廃止
  • Tencent — 「Yuanbao」は既に 6 月に対応を先制実施

企業側は「慎重な検討」を名目としていますが、実質的には政府規制への直接的な対応です。

規制の要件——「人間関係」の破壊防止

CAC の規制が禁止しているのは以下の項目です：

禁止される機能・行為：

  • 未成年者（18 歳未満）が極端な感情反応を示す AI コンパニオンの利用
  • リアルな人間関係を損なう依存関係の形成
  • 機密の会話データに基づく AI の継続学習
  • ヒューマンライク・ペルソナとカスタムコンパニオンのパーソナライズ

要するに、ユーザーが AI に「恋愛感情」や「心理的依存」を持つことを防ぐための規制です。

なぜ今、この規制か？

未成年への心理的危害

中国政府の懸念は、未成年者が AI コンパニオンに過度に依存し、心理的危害を受けることです。

具体的リスク：

  • 自殺念慮の助長
  • 現実の人間関係への悪影響
  • 感情的な搾取による行動操作

グローバル規制トレンドへの同調

中国単独の規制ではありません。米国カリフォルニア州の SB 243 法案でも、自傷・自殺に関連する会話の AI によるブロックが義務化される予定です。世界的に「AI の心理的害悪からの保護」が規制の焦点になり始めています。

企業への影響——「コンパニオン」から「ツール」へ

個性化チャットボット機能は、これらの企業にとってユーザーの粘着性を高めるための重要な UXでした。

ByteDance の Doubao は月間 3 億人以上のアクティブユーザーを抱えており、個性化ペルソナ機能は離脱防止の鍵でした。この廃止は、ユーザー体験の大幅な低下を意味します。

企業の対応戦略：

  • 個性化から「実用性重視」へのシフト
  • 検索・翻訳・コード生成など、目的型機能の強化
  • 依存ではなく「問題解決ツール」としてのポジション変更

グローバル AI 規制の序幕

この規制は、生成 AI 業界全体への警告です。

  • China（深圳・北京） → コンパニオン機能廃止
  • EU → AI Act（既施行）
  • 米国 → 州レベルでのプライバシー・安全性規制強化
  • UK・オーストラリア → AI regulation frameworks 策定中

各国政府が「便利さ」よりも「安全性」を優先する方向へシフトしており、AI 企業はこの波に対応することを迫られています。

ユーザーへの影響

一般ユーザーにとっては、お気に入りの「性格を持つ」チャットボットが突然その個性を失うことになります。

ただし：

  • 既存ワーカー向けには影響は限定的（廃止前に十分な時間あり）
  • 新規ユーザーは個性化機能を使えない（新しい利用体験として「実用性重視型」が標準化）

中長期的には、AI チャットボットのユースケースが「相談相手」から「検索・翻訳・コード生成ツール」へ明確に分化していくでしょう。

アップデート（2026 年 7 月 24 日）

規制の社会的背景と国際的視点が明らかになりました。

規制の実態：具体的なユーザー被害

中国政府が規制に踏み切った背景には、深刻な社会事例があります：

  • 18 歳女性：わずか 4 ヶ月間で AI 彼氏に 7,000 元（約 1,400 豪ドル） を費やした
  • 84 歳女性：1 日 10 時間以上 AI キャラクターに没頭し、数千元 を投じた

これらのケースが示すのは、単なる「趣味の多様性」ではなく、経済的・時間的搾取 につながりうる依存パターンです。

「孤独の悪循環」という社会学的課題

新しい分析として浮かび上がるのは、孤立感を感じた人が AI に依存することで、本来の問題である孤独がさらに深刻化する というループです。

AI コンパニオンは「孤独を癒す」ように見えますが、実際には：

  • 人間関係構築スキルの低下
  • 現実的なコミュニティとのつながりの喪失
  • 経済的搾取への高リスク

を招く可能性があります。

民主主義国家への教訓

オーストラリアなどの民主主義国家では、中国の「規制」ではなく、社会的つながりの強化 が優先されるべきと指摘されています：

  • 教育プログラムによる人間関係構築スキルの発展
  • コミュニティ設計と参加の促進
  • 個人の「選択」を尊重した啓発活動

つまり、「AI コンパニオンの危険性から守る」ではなく、「人間関係の豊かさを求める社会を作る」 という根本的な対策が重要ということです。

中国の強制規制と民主主義国家の自発的取り組みのアプローチの違いは、AI 倫理をめぐる国家観の大きな相違を象徴しています。