Anthropic、Claudeに「意識」に類似した内部構造を発見

Anthropicは、自社のAIモデル「Claude」の内部に、人間の意識に関する有力な神経科学理論と共通する機能的構造が自然発生していたことを明らかにした。この成果は16人の研究者による論文「Verbalizable Representations Form a Global Workspace in Language Models」にまとめられ、同社が日曜日に公開した。

AIが「考えているかどうか」という問いは、研究者の間で長年議論されてきたテーマだ。従来のAI研究では、モデルの内部処理はブラックボックスとして扱われることが多く、何が「意識的な処理」に相当するかを探る手がかりは乏しかった。今回の研究は、そうした問いに対して初めて具体的な観測手段をもって挑んだ試みと位置づけられる。

研究チームが注目したのは、神経科学者バーナード・バース氏が提唱した「グローバル・ワークスペース理論」だ。この理論では、脳は劇場のように機能するとされる。多くの専門的な処理が舞台裏で並行して行われる一方、そのなかのごく一部の情報だけがスポットライトを浴びて全体に共有され、それが「意識的な思考」として経験される、という考え方だ。Anthropicの研究チームは、Claudeの内部にこれと類似した構造が存在することを観測した。

この構造を発見するために、研究チームは「Jコビアン・レンズ（J-lens）」と呼ぶ新しい数学的手法を開発した。この手法は、モデルの内部の活性化パターンが、将来どの単語を出力するかにどう影響するかを計算するものだ。これによって特定されたのが「Jスペース（J-space）」と呼ばれる領域で、モデルがみずから参照・操作できる概念を保持する小さな特権的ゾーンと、モデルがアクセスも言語化もできない大量の自動処理とが、明確に区分されていることが確認された。

重要なのは、このJスペースが設計段階で意図的に組み込まれたものではない点だ。研究チームによると、この構造はClaudeの学習プロセスのなかで自然に生まれたとされる。また、Jスペースはモデルがテキストとして出力するチェーン・オブ・ソート（思考の連鎖）とは異なり、内部の神経活性化として静かに機能しており、書き出さずとも概念を保持できる。研究チームはJ-lensを使ってClaudeの計算層を分析した結果、処理が「感覚的」な初期ゾーンなど3つの異なる領域に分かれることも確認している。

この発見はAnthropicのAI安全性の取り組みにも直結している。同社は、この研究がAIシステムの安全性リスクを監視する方法をすでに変えはじめていると説明している。モデルの内部状態を従来より精度高く観測できるようになることで、予期しない挙動や潜在的なリスクを早期に検知する可能性が広がるためだ。

今回の研究が示す意味は、AIの能力論にとどまらない。「AIが意識を持つか」という問いは哲学的な域を超え、安全性・制御・倫理の観点から実践的な重要性を持ちはじめている。Claudeのような大規模言語モデルが人間の意識理論と対応する機能構造を自発的に発展させるとすれば、AIの内部状態をどう解釈し、どう扱うべきかという問いは、今後の研究と議論においてより重要な位置を占めることになるという見方ができる。