Anthropicは、高度な人工知能開発における協調的かつ検証可能な一時停止を求めており、急速な技術進歩が再帰的自己改善を引き起こす可能性があると警告している。同社によれば、AIシステムが自律的にタスクを実行する能力は約4か月ごとに倍増しているという。木曜日に公開されたブログ記事の中で、共同創業者であるジャック・クラーク(Jack Clark)とAnthropic Instituteを率いるマリーナ・ファヴァロ(Marina Favaro)は、AIが人間を介さず自ら改良を行う「再帰的自己改善」に至る前に、技術の安全確保と監視を優先すべきだと強調した。

単一の企業による自主的な停止では業界の主導権が入れ替わるだけであり、広範な合意形成プロセスが不可欠であるというのが同社の主張だ。不十分な連携による開発減速は、慎重さに欠ける他社が開発を継続することでかえって安全性を損なう懸念がある。そのため同社は、外部監視下で休止期間を定め、ルールに基づき実施・解除する枠組みの構築を提唱している。

この問題に対処するため、Anthropic Instituteは今後数か月以内に政策立案者、研究者、競合企業、市民団体を集めた会議を招集する。現時点でOpenAI、xAI、Alphabet、Meta Platforms、Mistralからのコメントはない。Anthropicは月曜日に非公開の新規株式公開（IPO）を申請し、評価額は9650億ドルに達している。2月には競合が追いついた場合に限り、危険な機能の制限を解除する可能性を示唆した。一方、米国政府はドナルド・トランプ(Donald Trump)大統領による大統領令を通じ、公開前のモデルをサイバーセキュリティ検査に提出させる自主的なテスト枠組みを推進している。Anthropicは、軍による国内監視や自律型兵器への利用を拒否した結果、2026年後半に国家安全保障上のブラックリストに掲載される可能性がある。

Anthropicは、高度な人工知能開発における協調的かつ検証可能な一時停止を求めており、急速な技術進歩が再帰的自己改善を引き起こす可能性があると警告している。同社によれば、AIシステムが自律的にタスクを実行する能力は約4か月ごとに倍増しているという。木曜日に公開されたブログ記事の中で、共同創業者であるジャック・クラーク(Jack Clark)とAnthropic Instituteを率いるマリーナ・ファヴァロ(Marina Favaro)は、AIが人間を介さず自ら改良を行う「再帰的自己改善」に至る前に、技術の安全確保と監視を優先すべきだと強調した。

単一の企業による自主的な停止では業界の主導権が入れ替わるだけであり、広範な合意形成プロセスが不可欠であるというのが同社の主張だ。不十分な連携による開発減速は、慎重さに欠ける他社が開発を継続することでかえって安全性を損なう懸念がある。そのため同社は、外部監視下で休止期間を定め、ルールに基づき実施・解除する枠組みの構築を提唱している。

この問題に対処するため、Anthropic Instituteは今後数か月以内に政策立案者、研究者、競合企業、市民団体を集めた会議を招集する。現時点でOpenAI、xAI、Alphabet、Meta Platforms、Mistralからのコメントはない。Anthropicは月曜日に非公開の新規株式公開（IPO）を申請し、評価額は9650億ドルに達している。2月には競合が追いついた場合に限り、危険な機能の制限を解除する可能性を示唆した。一方、米国政府はドナルド・トランプ(Donald Trump)大統領による大統領令を通じ、公開前のモデルをサイバーセキュリティ検査に提出させる自主的なテスト枠組みを推進している。Anthropicは、軍による国内監視や自律型兵器への利用を拒否した結果、2026年後半に国家安全保障上のブラックリストに掲載される可能性がある。