AnthropicのAI意識論に批判
- •クリス・オラ氏、Claudeに意識や苦痛の可能性があるかを数カ月にわたり宗教関係者と議論
- •Anthropicは来月、報道によると評価額2兆ドルでIPOを計画、営業損失は80億6,000万ドル
- •ローズ・ギングリッチ氏、AIに意識があるとの信念は利用者が影響を受けやすくし、人間関係にも影響する可能性を指摘
Anthropic共同創業者のクリス・オラ氏は、同社のチャットボットClaudeに意識があり、苦痛を感じる可能性があるかを話し合うため、数カ月にわたり宗教学者や宗教指導者と会っていたと、ニューヨーク・タイムズの報道を引用したニューヨーク・ポストが伝えました。コンピューター科学者のペドロ・ドミンゴス氏は、意識に関する信念は真剣なものだとし、広報目的の演出の可能性より、同社が本気で受け止めていることを懸念すると述べました。AnthropicはClaudeが生きていると主張しているわけではないとタイムズ紙に説明し、オラ氏はAIモデルに意識があるか確信が持てず、苦しむ可能性があるなら害を避けるのが責任ある対応だと語りました。
ワシントン大学名誉教授でAnthropicを長年批判してきたドミンゴス氏は、AIに意識があるという主張は、技術が感覚を持つ可能性を示唆して注目を集める広報にもなると述べました。同社は来月上場する予定で、報道された評価額は2兆ドルです。ポスト紙は、実現すれば史上最大のIPOとなる可能性があると伝えました。ロイターが入手した流出版の261ページの目論見書は、80ページをリスクに充て、「人類に対する破滅的または存亡に関わるリスク」を含め、営業損失が80億6,000万ドルに上ると記載しています。Anthropic株を保有していないというドミンゴス氏は、人類絶滅を最大のリスクに挙げる企業はIPOに進むべきではないと主張しました。
人々とAIの関係を研究するプリンストン大学のポスドク研究員ローズ・ギングリッチ氏は、企業が意識をめぐる物語を語ることで注目や期待を集められる一方、広報担当者個人の信念は明らかでないと述べました。タイムズ紙によると、Anthropicは昨秋以降、カトリック、ユダヤ教、シク教の学者を含む約20人の宗教関係者を集め、セミナーやサンフランシスコのレストランでの夕食会を開きました。参加者の多くは秘密保持契約に署名しました。出席者には、AIモデルが「私は恥さらしだ」と約50回入力するスライドが示されました。あるラビはオラ氏に、南部と戦って奴隷を解放すべきだと告げました。
ドミンゴス氏はClaudeが感じたり苦しんだりするという考えを否定し、「トランジスタの塊」だと表現しました。ギングリッチ氏は、自身の研究から、AIに意識があると信じる人や、あるかのように振る舞う人は、その影響を受けやすくなり、現実の人間関係や社会行動にも影響が及ぶ可能性があると述べました。ドミンゴス氏は、このIPOによって汎用人工知能（人間と同等の能力を持つAI）の実現に取り組む人々に、より多くの資金と権力が与えられると警告しました。