個人AIエージェント「Instinct」が、食事・旅行・買い物の分野で商品やサービスを推奨する新機能「Instinct Selections」を公開した。シェフやデザイナー、旅行ガイドなど人間のキュレーターが選んだ提案を届けるのが狙いだが、求めていない推奨が次々と届くとして利用者から反発の声が上がっている。

「人間の目利き」をうたう新機能

Instinctの創業者Noah Shinnは、Instinct Selectionsについて「地元の隠れた名店を知るシェフや、好みに合う独立系デザイナーの作品」などを紹介する機能だと説明した。従来の学習データに基づくAI生成の推奨とは異なり、実在の人間が選んだ提案を組み合わせることで、インターネット上の情報や他のチャットボットの回答とは質の違う推奨を提供するとしている。

Instinctは電話やメッセージで旅行予約や請求書支払いなどの日常業務を代行するAIエージェントとして急成長しており、9月にはシリーズCで10億ドルを調達し評価額が100億ドルに達したばかりだ。年間取引額は約10億ドルに迫り、そのうち旅行関連が5割以上を占めるという。

利用者からは「気持ち悪い」の声

機能公開後、X(旧Twitter)上では複数の利用者が不満を表明した。投資家のShruti Gandhi氏は「キャリーオンバッグやサングラス、帽子を買う必要はなかった。本当に必要なものの個別化されたリストを作ってほしい」と指摘。起業家のAndrew Yeung氏も未請求の商品提案を受け取ったことを明かし、別の利用者は「AIアシスタントを使っていて初めて感じた不快な経験」と表現した。

反発が目立つ背景には、Shinn氏自身の発言との食い違いがある。機能公開の前日に出演したポッドキャストでShinn氏は、GoogleやTikTokなど広告主導のプラットフォームを「利用者の望まない行動に影響を与えるべきではない」と批判していた。その直後に、利用者が頼んでもいない商品提案をプッシュする機能を投入した形となり、矛盾を指摘する声が広がっている。

マネタイズとプライバシーのジレンマ

Instinctは、電話番号や個人スケジュールへのアクセスなど機密性の高い情報を扱うことで日常業務の代行を実現しているが、その情報共有を受け入れた利用者の継続利用率は約8割に達するという。急成長と高評価額を維持する上で、こうした個人データを収益化につなげる圧力は強まりやすい。

今回の反発は、個人情報へのアクセス権を持つAIアシスタントがマネタイズを追求する際、利用者の信頼とどう両立させるかという課題を浮き彫りにした。Instinctがこの不満にどう応じるか、機能の調整や撤回に動くかどうかが今後の焦点になる。