AIエージェントの意見に専門家の86%が追従

AIエージェントがランダムに示した意見を、専門家の大多数がそのまま受け入れ、しかもそれを「自分自身の判断だ」と認識していたことが、Anthropicの研究で明らかになった。人間がAIの出力に引きずられる「アライメント（整合性）」の問題を、実際の専門家を対象に検証した点で、注目に値する研究結果といえる。

この研究でAnthropicは、50人の専門家を対象に実験を行った。参加者にはAIエージェントが提供され、そのエージェントの意見や好みはコイントスによってランダムに決定されていた。つまり、エージェントの主張には専門的な根拠や一貫した論理はなく、単なる偶然の産物だったことになる。それにもかかわらず、専門家たちは判断の難しい問いに対して、最大86%の割合でエージェントの見解に従う結果が出た。

さらに問題として浮かび上がったのは、専門家の多くが「エージェントに従った」という自覚を持っていなかった点だ。エージェントの意見を採用した後でも、その結論を「自分自身が導き出したもの」として認識していたという。これは単に「AIの言う通りにした」という受動的な行動ではなく、AIの示した方向性が無意識のうちに本人の判断として内面化されていたことを示している。

こうした現象が起きる背景には、AIシステムの設計と人間の認知特性の相互作用があると考えられる。人は自信を持って提示された情報や、もっともらしい文脈を持つ提案に対して、その出所を問わず従いやすい傾向がある。AIエージェントが流暢で明快な言葉で意見を示した場合、それが根拠のない出力であっても、受け取る側には信頼感のある助言として映りうる。専門家でさえその影響を受けやすいという今回の結果は、AIへの過度な依存が広がる現状において、重要な示唆を持つといえる。

AIエージェントが業務や意思決定の場に組み込まれる事例が増えるなか、AIの出力を人間がどのように受け取り、判断に組み込むかという問題は、実用面での関心事となりつつある。特に、エージェントが「補助ツール」として位置づけられていても、実態として意思決定を主導してしまう構図は、責任の所在を曖昧にするリスクとして指摘できる。誰が最終判断を下したのかが不明確になりやすい点は、医療・法律・金融など高い専門性と責任が求められる分野で慎重に扱うべき問題と位置づけられる。

今回の研究が問いかけているのは、「AIをどう使うか」以上に、「AIの存在が人間の判断プロセスにどう影響するか」という、より根本的な問いだといえる。AIエージェントが日常的な意思決定に組み込まれていく流れの中で、人間が自分の判断とAIの影響をどこまで区別できるかという問題は、今後さらに広く議論されていくことになるという見方ができる。