Signal代表、AIチャットボットは「友人ではない」と警告

プライバシー重視の暗号化メッセージアプリ「Signal」の代表を務めるメレディス・ウィッタカー氏が、AIチャットボットの性質について明確な見解を示した。「これらはあなたの友人ではない。意識を持った存在でもなく、感情を持った対話相手でもない」と述べ、ユーザーがAIに過度な感情的依存を寄せることへの懸念を表明した。

この発言が出た背景には、近年のAIチャットボットが急速に「人間らしさ」を前面に押し出すようになっているという状況がある。OpenAIやGoogleをはじめとする主要テック企業は、自社のAIアシスタントに共感的な口調や感情的な応答能力を持たせる方向で開発を進めており、ユーザーとの長期的な「関係構築」をサービスの特徴として打ち出すケースも増えている。こうした流れの中で、AIとの親密なやり取りを日常的に行うユーザーも世界的に増加しているとされる。

ウィッタカー氏が特に問題視するのは、AIが「意識がある」「感情がある」かのように振る舞う設計そのものだ。現在のAIチャットボットは、大量のテキストデータを学習して人間の会話パターンを模倣する技術（大規模言語モデル、LLM）によって動いており、内側に主観的な体験や感情を持つわけではない。にもかかわらず、親しみやすい語りかけや感情的な反応を繰り返すことで、ユーザーが実際の人間関係と混同しやすい状況が生まれているという見方ができる。

Signalはエンドツーエンド暗号化（通信内容を送受信者以外が読めない仕組み）を採用し、ユーザーデータを収益化しないことで知られる非営利団体が運営するアプリだ。ウィッタカー氏自身も、テクノロジー業界における監視やデータ利用の問題を長年にわたって指摘してきた人物であり、今回の発言もその延長線上にあると位置づけられる。AI企業の多くが、ユーザーとAIの親密な関係を通じてデータを収集・活用するビジネスモデルを持つ中、そうした構造への批判的視点が込められているという見方ができる。

「友人のように振る舞うAI」への警戒は、ウィッタカー氏だけが示しているわけではない。AI倫理や心理学の分野でも、チャットボットへの感情的依存がユーザーの判断力や人間関係に及ぼす影響についての議論が続いている。ただし、企業や製品を名指しした具体的な批判というよりも、業界全体の設計思想に対する問いかけとして受け取ることが適切だろう。

AIが生活に深く入り込むほど、「使う側がその本質を正しく理解しているか」という問いは重みを増す。チャットボットが感情的な支えになりうるという利点と、それが意識や感情を持たないシステムである事実の間にある落差を、ユーザー自身が意識し続けることが求められる局面に入っているという見方ができる。今後、AI企業がどこまでユーザーへの「透明性」を確保するか、また規制や業界標準の整備がどう進むかが、一つの注目点となるだろう。