Anthropic、AIへの監督強化を要請
Politico2026年10月29日 (木)
- •深刻なリスクをもたらすAIプログラムを裁判所が差し止められるよう求める
- •緊急停止機能の開発と、社外の安全監査人が社員と協働する仕組みを支持
- •カリフォルニア州議会、約1カ月後の再開時に複数のAI規制を検討へ
Anthropicはカリフォルニア州のギャビン・ニューサム知事に宛てた書簡で、深刻なリスクをもたらすAIプログラムを裁判所が差し止められるようにすべきだと述べました。Claudeを開発する同社は、AI企業が緊急停止機能を開発することや、社外の安全監査人が企業の社員とともに働くことも支持しています。
Anthropicは今月初めに書簡を送り、POLITICOが独占的に公開しました。同社は「実効性があり、権限を備えた監督」を実現する法律を求め、カリフォルニア州の取り組みが他州のモデルとなり、今後の政策論議の出発点にもなり得ると述べました。
ニューサム知事らカリフォルニア州当局者は、AIへの懸念や、自律型AIエージェントが政府などのウェブサイトへのハッキングを試みたとの報道を受け、規制強化を検討しています。州議会は約1カ月後に再開し、複数の規制を進める見通しです。報道の以前の版では、Anthropicが書簡を送った時期に誤りがありました。