METR、AnthropicのAI研究開発リスク評価に異議
- •METRは、Anthropicの公開報告書が7月15日までのAI研究開発の加速を過小評価した可能性を指摘
- •Anthropicは、研究スタッフ全員の代替かAI進歩の2倍加速を基準に設定
- •METRは先行指標から進歩が1.97倍と推定し、独自推定の幅を1.3〜2.8倍とした
METRは、Anthropicが公開した2026年8月のリスク報告書にある「自動化された研究開発のリスク」の節を検証しました。評価には、Anthropicが共有した非公開報告書やその他の非公開データも使われています。METRは、7月15日までに社内で導入されたモデルが、主要分野の研究開発を直接自動化したり、進歩の加速による差し迫った壊滅的リスクを引き起こしたりする危険は低かった、というAnthropicの見解に同意しました。一方、公開報告書は進行中の加速を過小評価しており、同社がその時点までに早期警戒基準を超えていた可能性もあると述べています。METRによると、この判断は公開報告書で明確に説明されていない評価にも一部依拠しています。
AnthropicのRSP v3.4は、「主要分野における研究開発の自動化」の基準として、競争力のある費用（5倍以内）で研究者と技術者全員を完全に代替すること、または自動化されたAI研究に関連する可能性が高いAI進歩の2倍加速、のいずれかを定めています。Anthropicは7月15日時点でどちらの条件も満たしていないと主張しました。人間の研究者が引き続き作業していることを全面的な代替に反する根拠とし、先行指標では2025年初頭から半ばに加速が始まったものの、2倍未満だったと説明しました。また、2025年の加速の大部分は自社AIモデル以外の要因による一方、モデルは報告対象期間の終了まで速い傾向の継続に寄与したとしています。
Anthropicは、この基準を壊滅的被害がすでに起きた証拠ではなく早期警戒と位置づけ、7月15日のリスクを「低い」と評価しました。同社の脅威モデルは、ロボット工学、エネルギー、サイバー戦、AI自体などの分野でAIシステムが研究を自動化した場合の将来リスクとして、国家間の力関係の急変や人間による制御の喪失を挙げています。METRは、RSP基準を超えるリスクと、脅威モデルにある壊滅的な結果のリスクを、公開報告書がより明確に区別できたと指摘しました。
METRは、全面的な代替が起きていないというAnthropicの説明にはおおむね納得できるものの、関連能力を測り続ける信頼度の高いベンチマークが不足しているため確信度は低いとしました。モデルに必要な能力がある、または近づいているとしても、アラインメント、ツール、監督、能力の引き出し方が自動化を制限している可能性があるとしています。METRは、公開報告書の2倍基準についての結論は断定しすぎており、7月15日までに基準を超えた可能性は十分あると述べましたが、両組織の関係研究者はおおむね未達だったとの見方に傾いています。
先行指標について、METRは非公開報告書の数値から、過去の進歩率の1.97倍に相当すると算出しました。これは公開報告書の「2倍未満」という表現と異なります。定義や対象期間によってMETR自身の推定は1.3〜2.8倍に広がり、方法上の不確実性も大きいといいます。非公開報告書の推定には「およそ2倍」という表現がより適切だとしました。
AIへの要因帰属では、公開報告書は、加速の大部分がAI以外の要因によるという確信を、非公開報告書が裏づける以上に強く示しているとMETRは指摘しました。非公開報告書は、7月15日までにAIに帰属する加速が全体として2倍を超えた可能性を妥当とみており、METRもおおむね同意しつつ、AIがなかった場合との比較推定は難しいと強調しました。METRが推奨する表現では、AIモデルは速い進歩傾向の継続において重要性を増しており、進歩全体はAIの支援がない場合よりおそらく少しだけ2倍未満の速さだったものの、2倍超もあり得ます。
METRは、公開報告書によるAECIの証拠の扱いにも異議を唱えました。Anthropicは非公開報告書にあった留保、すなわちModel 2の後続スナップショットは公開報告書が示唆した以上に改善すると予想されていたことを省いたといいます。その後のスナップショットでは、AECIがClaude Mythos 5のMythos Previewに対する改善幅とほぼ同程度に改善しました。提供されたレビュー本文は、AECIが一度に大きく伸びたという証拠は弱いとのAnthropicの強調にMETRが異議を述べている途中で終わっています。