AIの意識とアライメントの未来
Psychology Today AI
2026年5月11日 (月)
- •ダレン・J・エドワーズは、AIには真の理解に必要な意識的認識が欠如していると論じる
- •現在のAIは、感情や道徳的推論を体験することなく模倣しているに過ぎない
- •AIの安全性確保には、AIを道徳的な代替物とせず、人間の監督下に置くことが不可欠である
スウォンジー大学の准教授であるダレン・J・エドワーズ(Darren J. Edwards)は、高度なAIシステムが人間との対話を巧みに模倣する一方で、真の理解に必要な意識的経験を欠いていると指摘する。この乖離はアライメント問題(AIシステムが人間の価値観に沿って行動するように設計する研究)にとって重要な意味を持ち、機械は人間のコミュニケーションパターンを模倣するものの、その背後にある意図を内面化していない。
人間の知性は身体的かつ感情的な経験を伴うが、現在のAIモデルはそのような経験を共有していない。システムは流暢な共感表現や道徳的推論を生成するが、主観的かつ意識的な経験を通じて現実を解釈する「観察者としての自己」を欠いている。ケアや道徳的判断のようなタスクを統計的なパターンマッチングのみに依存することは、真の理解よりもパフォーマンスを優先するリスクを孕む。
エドワーズは、N-Frameモデルのような枠組みを通じて、知性の中心に観察者を据えることを提案する。このモデルは、意識を意味を構築するための能動的なインターフェースとして扱う。著者は、AIが価値に基づいた意識を獲得するまでは、システムを独立した道徳的エージェントとしてではなく、人間の責任下にあるツールとして維持すべきだと結論付けている。