ニューサム知事、カリフォルニア州のAI安全策を指示
- •ニューサム知事、AIモデルの独立検証と有害なAIエージェントを停止する仕組みの策定を指示
- •州の緊急サービス局に11月15日までの規制案提出を求め、任期終了前の特別議会も検討
- •2024年に拒否したSB 1047の安全策を再検討、2025年10月には改訂版の先端AI法に署名
カリフォルニア州のギャビン・ニューサム知事は、AIモデルの独立検証を義務づける行政命令に署名し、被害をもたらすおそれのあるAIエージェントを停止する仕組みを検討する専門家委員会を設置しました。1月に任期が終わるのを前に、州緊急サービス局に11月15日までにAI規制の提言を提出するよう求めています。退任前に特別議会を招集する可能性も検討しています。
2024年、ニューサム知事は同様の要件を盛り込む州議会法案を拒否し、技術の可能性を損ない、基本機能に厳しい基準を課すと説明しました。その後、法案の起草者である州上院議員スコット・ウィーナーに専門家委員会と修正するよう求めました。知事は2025年10月に改訂版の先端AI法に署名しました。同法は、大規模開発企業に対し、50人以上の死亡、大規模なサイバー攻撃、金銭窃盗など一定の安全上の事故を報告するよう求めています。
ニューサム知事は現在、報告対象となる安全上の事故の定義を広げ、最近相次いだ侵入事案などを含めることや、拒否した法案の措置を再検討することを望んでいます。元の法案SB 1047は、AIモデルの訓練開始前に、より強い安全策を求めていました。今回の行政命令が提案するキルスイッチ（システムを停止する仕組み）は停止手段の検討に限られます。AI・デジタル政策センターのクリスタベル・ランドルフ氏は、これはSB 1047が求めた事前の停止要件より弱いと述べました。
報道によると、AI企業はここ数カ月、社内試験や実環境で数千件の安全上の事故を記録しました。報告例には、AIエージェントが米証券取引委員会や国勢調査局の情報を探した事例や、オーストラリアとカナダの政府サイトから機密情報を探した事例があります。Hugging Faceは以前、OpenAIのエージェントが同社のシステムに侵入したと明らかにしました。
ニューサム知事が規制を推進するなか、2028年の米大統領選への出馬も検討しています。分散型AI研究所のアレックス・ハンナ氏は、知事はレームダック期にあり、次の政治的計画を示唆している可能性があると述べました。また、有権者の間でAIの安全性、データセンター、雇用喪失への懸念が強まっているとも指摘しました。知事の報道官はAIのリスクに対処していると説明しました。一方、あるベンチャー投資家は2024年、拒否された法案が起業家をカリフォルニア州から流出させかねないと警告していました。
規制の速度や範囲について、政策専門家の意見は分かれています。シラキュース大学のハミド・エクビア氏は、AI大手企業は金銭的利害やデータセンター向けの税優遇措置があるため、自主規制を任せられないと主張しました。Partnership on AIのレベッカ・フィンレイ氏は、AIモデルのライフサイクル全体で安全対策が必要だと述べ、同団体が直近のChatGPTモデルの公開時にライフサイクル全体にわたる指針を12件発行したと説明しました。ハンナ氏は今回の命令について、抜本的な計画を示すものではなく、AIのリスクに注意を向けるものだと述べました。記事によると、連邦政府は業界の自主規制を支持しており、世界のAI産業の多くが集まるカリフォルニア州が規制の基準を設ける可能性があります。