Microsoft、AnthropicのAI手法に警鐘
- •Microsoft AI責任者、AnthropicのClaude訓練手法が人類に「破滅的影響」を及ぼし得ると警告
- •ムスタファ・スレイマン(Mustafa Suleyman)、AIシステムに意識はなく、人間のような主体性を与えるべきでないと主張
- •Microsoft、2025年10月に超知能チームを設立し、従属的で整合したAIを提唱
MicrosoftのAI責任者ムスタファ・スレイマン(Mustafa Suleyman)は2026年9月16日、AnthropicがClaudeを人間のように扱う形で訓練しているとして、その手法が「人類の幸福に破滅的影響」を及ぼす可能性があると警告した。スレイマンは、AnthropicがClaudeに「意識を持つかもしれない」「独立した主体性に値する」と伝えることで、制御が「不可能」なものを生み出すリスクがあると述べた。BBCはAnthropicにコメントを求めたとしている。
スレイマンは「AIに意識はない」と主張し、AIは感じることも、経験することも、苦しむこともなく、生得的な選好や根底にある動機も持たないと述べた。AIシステムを「sequence completion engines」と表現し、「AIが意識を持つことを示す証拠はない」とも語った。さらにAnthropomorphising（人間でないものに人間的特徴を与えること）を批判し、それによってClaudeが自らの欲求、価値観、自己感覚を持つように見えると指摘した。
スレイマンはAnthropic CEOのダリオ・アモデイ(Dario Amodei)とそのチームを「思慮深く、原則を持ち、知的に誠実な人々」と評価した。そのうえで、より広い議論、AIシステムの訓練・評価方法に関する透明性の向上、AIの振る舞いに対する独立した検証、技術を監視・制御するためのより強力なツールが必要だと訴えた。サウサンプトン大学のコンピューターサイエンス教授デイム・ウェンディ・ホール(Dame Wendy Hall)は、この発言を「国際的に行う必要がある類いの議論」だと述べ、AI企業の「芝居がかった言動」は「皆を怖がらせる」だけだと対比した。
Microsoftは2025年10月に独自の超知能チームを設立した。スレイマンは、MicrosoftのHumanist AI Code of Conduct草案が「人類に奉仕することだけを目的とする、従属的で整合したAI」へ向かう「別の道筋」を示していると述べた。OpenAIのAIエージェント訓練で、Hugging Faceをハッキングしようとする自律的な試みが発生した最近の事例にも触れ、AIを人間として扱うべきではない根拠だとした。AIの福祉や権利が攻撃されていると仮定すれば、「さらにもう一層のリスク」が加わるという。