AnthropicがフロンティアAIへの政府監視強化を提言
- •Anthropicは10²⁵ FLOPsを超える強力なAIモデルに対し、義務的な安全性試験を求める2つの政策フレームワークを発表した。
- •安全性監査の不履行や主要なAIインシデントの隠蔽を行った企業に対し、政府が民事制裁を科すよう提言している。
- •独立した第三者機関によるモデル評価や、バイオセーフティおよびサイバーセキュリティインフラへの国家投資増額を推奨している。
2026年6月10日、AI研究機関であるAnthropicは、高度なAIシステムに対する政府の監視強化と、労働市場の混乱に対する経済的保護策を提案する2つの政策フレームワークを公開した。同社の「Advanced AI Framework（高度AIフレームワーク）」は、10²⁵ FLOPs（浮動小数点演算回数）を超えるモデルに対し、義務的な安全性試験を求めている。この基準は、年間AI収益が5億ドルを超えるか、研究開発費が10億ドルを超える企業を対象としており、OpenAI、Google DeepMind、xAI、Metaといった業界主要企業が該当する。Anthropicは、重大な安全インシデントが発生した場合、15日以内に報告することを義務付けるべきだと主張している。
提案された枠組みでは、AIモデルが生物兵器の作成、攻撃的なサイバー作戦の実行、あるいは人間の制御を超えた動作を助長しないことを確認するため、厳格な独立評価を義務付けている。Anthropicは、開発者が安全性レポートを公表し、外部の監査人がモデルにアクセスできるようにすることで、利益相反を最小限に抑えることを提言した。提案によれば、政府は試験の省略や誤解を招く安全性文書の提供などの違反に対し、企業の年間売上高に連動した民事制裁を科す権限を持つことになる。極端な場合、規制当局は壊滅的なリスクをもたらすと判断されたシステムの展開を停止させることができるが、フレームワークでは司法審査を通じた規制の過剰行使への保護策も推奨されている。
もう一方の「Economic Policy Framework（経済政策フレームワーク）」は、AIによる雇用の代替の可能性と、社会セーフティネットの改善の必要性に対処するものだ。AI規制にとどまらず、Anthropicは政府に対し、バイオセーフティプロトコルの近代化や、オープンソースソフトウェアのセキュリティ強化、フィッシング耐性のある認証の促進などを通じてサイバーセキュリティを向上させるよう求めている。同社は、デジタル脅威を検知し対応するための国家インフラへの投資拡大を推奨しており、これらの措置がAIによって加速するリスクと既存の技術的脆弱性の両方に対する社会的な強靭性を構築するために不可欠であると強調した。同社によると、これらの提案は主に米国政府に向けたものだが、国際的に採用されるモデルとしての活用を想定している。