スウォンジー大学の准教授であるダレン・J・エドワーズ(Darren J. Edwards)は、高度なAIシステムが人間との対話を巧みに模倣する一方で、真の理解に必要な意識的経験を欠いていると指摘する。この乖離はアライメント問題（AIシステムが人間の価値観に沿って行動するように設計する研究）にとって重要な意味を持ち、機械は人間のコミュニケーションパターンを模倣するものの、その背後にある意図を内面化していない。

人間の知性は身体的かつ感情的な経験を伴うが、現在のAIモデルはそのような経験を共有していない。システムは流暢な共感表現や道徳的推論を生成するが、主観的かつ意識的な経験を通じて現実を解釈する「観察者としての自己」を欠いている。ケアや道徳的判断のようなタスクを統計的なパターンマッチングのみに依存することは、真の理解よりもパフォーマンスを優先するリスクを孕む。

エドワーズは、N-Frameモデルのような枠組みを通じて、知性の中心に観察者を据えることを提案する。このモデルは、意識を意味を構築するための能動的なインターフェースとして扱う。著者は、AIが価値に基づいた意識を獲得するまでは、システムを独立した道徳的エージェントとしてではなく、人間の責任下にあるツールとして維持すべきだと結論付けている。

スウォンジー大学の准教授であるダレン・J・エドワーズ(Darren J. Edwards)は、高度なAIシステムが人間との対話を巧みに模倣する一方で、真の理解に必要な意識的経験を欠いていると指摘する。この乖離はアライメント問題（AIシステムが人間の価値観に沿って行動するように設計する研究）にとって重要な意味を持ち、機械は人間のコミュニケーションパターンを模倣するものの、その背後にある意図を内面化していない。

人間の知性は身体的かつ感情的な経験を伴うが、現在のAIモデルはそのような経験を共有していない。システムは流暢な共感表現や道徳的推論を生成するが、主観的かつ意識的な経験を通じて現実を解釈する「観察者としての自己」を欠いている。ケアや道徳的判断のようなタスクを統計的なパターンマッチングのみに依存することは、真の理解よりもパフォーマンスを優先するリスクを孕む。

エドワーズは、N-Frameモデルのような枠組みを通じて、知性の中心に観察者を据えることを提案する。このモデルは、意識を意味を構築するための能動的なインターフェースとして扱う。著者は、AIが価値に基づいた意識を獲得するまでは、システムを独立した道徳的エージェントとしてではなく、人間の責任下にあるツールとして維持すべきだと結論付けている。