Anthropicが再帰的AI自己改善のリスクに警鐘
- •Anthropicは1万語の技術論文で、再帰的な自己改善がもたらすリスクについて警告した。
- •2026年5月時点で、Anthropicのコードベースの80%以上がClaudeによって記述されている。
- •同社はフロンティアAI開発の一時停止に向けた、検証可能な国際的枠組みの構築を提唱した。
Anthropicは、AIが自身を構築するリスクを論じた1万語の論文「When AI builds itself」を公開し、自動化されたAIシステムが抱える危険性に焦点を移した。CEOのダリオ・アモデイ(Dario Amodei)は、今後5年以内にコーディング、金融、法務分野などで10%から20%の失業率に達する可能性があると示唆してきたが、今回の分析では「再帰的自己改善」を重視している。これはAIが人間による介入を最小限に抑え、自身の後継モデルの設計や学習を行う能力を指す。現時点でこの段階には到達していないものの、技術的な差は急速に縮まっているというのが同社の見解だ。
内部データによると、AIを活用した開発の進展は顕著である。2026年5月の時点で、Anthropicのコードベースに統合されたコードの80%以上はClaudeによるものであり、2025年2月のClaude Code発表前の低い数値から劇的な変化を見せている。同社のエンジニアは2021年から2025年の期間と比較して、四半期あたり8倍のコードを出荷している。2026年3月の内部調査では、研究者がMythos Previewモデルを使用することで生産性が約4倍向上したと報告された。また、2026年4月の事例では、Claudeが800件以上の修正を行い、APIエラーを1,000分の1に削減した。これは人手で行えば4年かかる作業に相当する。
論文は、AIが次世代モデルを構築する能力を持つようになると、アライメントの問題は単なる研究上の課題から生存に関わるリスクに変質し、人間による制御が恒久的に失われる可能性があると警告する。外部評価機関のMETRによると、Mythos Previewはすでに16時間以上自律的に動作可能であるという。また、モデルが確実に完了可能なタスクの長さは4か月ごとに倍増している。これらの調査結果を受け、AnthropicはフロンティアAI開発の一時的な停止を呼びかけている。同社はAnthropic Instituteを通じて政策立案者や他のAI研究所と連携し、検証システムの構築を目指す方針だが、こうした協定の強制には困難が伴うことも認めている。