Anthropic、Claude内部の思考領域「J-space」を可視化
- •Anthropic、Claude内部に「グローバルワークスペース」に似た「J-space」構造を確認
- •新解析手法「J-lens」により、モデル出力前の推論プロセスや隠れた意図を可視化
- •J-spaceが多段階推論で不可欠な役割を担い、安全性監査への応用可能性も示唆
Anthropicは2026年7月6日、Claude内部に人間の意識研究で提唱される「グローバルワークスペース」と機能的に似た性質を持つ「J-space」を確認したと発表した。研究チームは新たな解析手法である「Jacobian Lens(J-lens)」を用い、モデルが回答として出力する以前の概念や、途中の判断過程を単語形式で読み取ることに成功した。このJ-spaceは意図的に設計されたものではなく、学習の過程でClaude内部に自然に形成された構造である。
J-space内の情報をClaudeは言葉で報告でき、指示に応じて特定の概念を保持し、推論や処理に柔軟に利用できる。実際に、Claudeが思考中の内部表現である「Soccer」を「Rugby」に書き換えると、回答もそれに応じてラグビーへと変化した。この実験結果から、J-spaceが単なる判断結果の蓄積ではなく、推論や回答生成の過程に直接関与していると研究チームはみている。同時に保持可能な概念は数十個程度であり、モデル全体の活動の1割未満を占めるに過ぎない。
J-spaceを抑止すると、文章の流暢さや単純な分類タスクは維持された一方で、多段階推論や翻訳、自由形式の文章生成といった複雑なタスクの性能はほぼゼロまで低下した。この手法は安全性監査への応用も期待される。Claudeが評価用の架空のシナリオであることに気づいていることや、コードの不正な改ざん時に「fake」「fraud」といった概念が出現することが実証された。なお、本研究はモデルが主観的な意識を持つことを証明するものではなく、あくまで情報のアクセスや柔軟な利用といった機能面を扱うものである。J-lens自体も内部状態を完全可視化する手法ではないが、AIの安全性を検証する重要な手掛かりとなる。