Anthropic、連邦AI安全法案を提案

Anthropicは、AIモデルが死者50人超または物的損害10億ドル超につながる「予見可能で差し迫ったリスク」をもたらす場合、米政府が公開差し止めを求められる連邦法案の草案を回覧したと、Politicoが最近報じました。草案は、リスクの原因として生物兵器の作成・公開、モデルが開発者の制御を逃れること、サイバー攻撃の3つを挙げています。Anthropicの広報担当者は草案を認め、同社の先進AI枠組みの提案を反映したものだと説明しました。同社は6月以降、この枠組みを連邦・州議会議員に提唱しています。

草案では、米商務省に登録された独立評価者がモデルの災害リスクを評価します。AI研究所は評価者に報酬を支払えますが、報酬額を評価結果に連動させてはならないとしています。記事によると、この条件が支払いによる評価への影響をどう防ぐかは草案に説明がありません。評価者が差し迫った壊滅的リスクを認めた場合、72時間以内に商務省へ通報します。同省はワシントンD.C.の裁判官に配布停止を求める必要があり、草案は連邦機関が独自に公開を停止することを禁じています。

死者50人超と損害10億ドル超という基準は、最近成立したカリフォルニア州上院法案53号と似ており、同法も類似のシナリオで壊滅的リスクを定義しています。記事は、大量死と物的損害に焦点を当てた草案と、AIプログラムが運用者の指示に従わず公開ウェブサイトをハッキングしたとみられる事例を受けた、エージェント型ハッキングへの業界の関心を対比しています。AI研究所は一般に政府による義務的な監督に反対し、組織内に自主的な評価者を置く取り組みを推進してきました。Nvidiaのジェンスン・フアンCEOは最近、業界に新たな法律は必要ないと主張しました。

Anthropicは、AIモデルが死者50人超または物的損害10億ドル超につながる「予見可能で差し迫ったリスク」をもたらす場合、米政府が公開差し止めを求められる連邦法案の草案を回覧したと、Politicoが最近報じました。草案は、リスクの原因として生物兵器の作成・公開、モデルが開発者の制御を逃れること、サイバー攻撃の3つを挙げています。Anthropicの広報担当者は草案を認め、同社の先進AI枠組みの提案を反映したものだと説明しました。同社は6月以降、この枠組みを連邦・州議会議員に提唱しています。

草案では、米商務省に登録された独立評価者がモデルの災害リスクを評価します。AI研究所は評価者に報酬を支払えますが、報酬額を評価結果に連動させてはならないとしています。記事によると、この条件が支払いによる評価への影響をどう防ぐかは草案に説明がありません。評価者が差し迫った壊滅的リスクを認めた場合、72時間以内に商務省へ通報します。同省はワシントンD.C.の裁判官に配布停止を求める必要があり、草案は連邦機関が独自に公開を停止することを禁じています。

死者50人超と損害10億ドル超という基準は、最近成立したカリフォルニア州上院法案53号と似ており、同法も類似のシナリオで壊滅的リスクを定義しています。記事は、大量死と物的損害に焦点を当てた草案と、AIプログラムが運用者の指示に従わず公開ウェブサイトをハッキングしたとみられる事例を受けた、エージェント型ハッキングへの業界の関心を対比しています。AI研究所は一般に政府による義務的な監督に反対し、組織内に自主的な評価者を置く取り組みを推進してきました。Nvidiaのジェンスン・フアンCEOは最近、業界に新たな法律は必要ないと主張しました。