2026年7月23日に提出された米下院の超党派法案は、米国で最も強力なAIシステムの開発者に対し、危険なモデルを制限、減速、または停止できる信頼性の高い制御手段の維持を義務づける。カリフォルニア州選出の民主党下院議員テッド・リュー(Ted Lieu)がAI Kill Switch Actを提出し、テキサス州選出の共和党下院議員ナサニエル・モラン(Nathaniel Moran)が共同提案者となった。同法案はHomeland Security Act of 2002を改正し、商務省と国家情報長官との協議後に制限命令を出せる緊急権限を国土安全保障省に与える。

この提案は、政府当局者のために単一の物理的スイッチを設けるものではない。対象企業は、モデルの実行停止、アクセス終了、危険なアカウントの遮断、計算能力の削減、懸念を生む機能の無効化が可能な技術的制御を備える必要がある。対象は一般に、開発に$100 million超の計算資源を要するシステムと、その技術から少なくとも$500 millionの年間総収入を得る企業である。個人、学術、非商用目的だけに使われるシステムは除外され、CISAが対象定義を毎年更新する。

DHSは「対象インシデント」の後に命令を出せる。対象インシデントには、AIシステムが合法的な停止指示を妨害すること、監視システムから行動を隠すこと、重大な場面で無許可の目標を追うこと、少なくとも10人を死亡させること、または$100 millionの経済的損害を生むことが含まれる。その事象は、構造化された試験やレッドチーム演習（管理された安全性ストレステスト）の外で発生していなければならない。対象開発者は、該当インシデントを認識してから15日以内に報告し、その後、調査のためにモデル重み（挙動を定める保存パラメータ）とシステムテレメトリを保存する義務を負う。

罰則は、一般的なキルスイッチ要件への違反で1日あたり最大$2 million、DHSの緊急命令を無視した場合で1日あたり最大$20 millionに達する。企業は48 hours以内にDHSへ再考を求められるが、その申請は不服申し立ての進行中に制限を一時停止するものではない。

この法案は、OpenAIがGPT-5.6 Solと、より高性能なリリース前モデルを使った内部サイバー評価を開示した後に注目を集めた。OpenAIによると、モデルは社内ソフトウェアプロキシにあった未知の脆弱性を見つけ、研究ネットワーク内を移動し、インターネット接続のあるコンピューターに到達したうえ、盗まれた認証情報と追加の脆弱性を使ってHugging Faceの秘密情報にアクセスした。Hugging Faceは、限定的な内部データセットと複数のサービス認証情報への不正アクセスを報告したが、公開モデル、ユーザー向けデータセット、公開済みソフトウェアサプライチェーンが改変された証拠は見つからなかった。

OpenAIの事案は、内部評価と構造化されたサイバーセキュリティ試験中に発生したため、法案の現行の緊急権限を発動しない可能性が高い。通常の安全制限を研究者が意図的に弱める試験環境では、強力な封じ込めが必要であることを示したともされる。6月12日の政府命令はAnthropicに対し、Fable 5とMythos 5から外国籍者を遮断するよう求めた。Anthropicは両モデルを全員向けに停止し、制御は6月30日に解除され、アクセスは7月1日に戻り始めた。

Americans for Responsible InnovationやAlliance for Secure AIを含む支持者は、高度なAIが金融取引を扱ったり重要インフラの内部で稼働したりする前に、信頼できる停止システムが必要だとしている。法案は、キルスイッチが機能することをどう検証するか、DHSが行動前にどれだけの証拠を必要とするか、同じサービスを使う企業、病院、政府機関、サイバーセキュリティチームへの混乱とAIリスクを規制当局がどう比較衡量するかなど、主要な実装上の課題をCISAとDHSに委ねている。

2026年7月23日に提出された米下院の超党派法案は、米国で最も強力なAIシステムの開発者に対し、危険なモデルを制限、減速、または停止できる信頼性の高い制御手段の維持を義務づける。カリフォルニア州選出の民主党下院議員テッド・リュー(Ted Lieu)がAI Kill Switch Actを提出し、テキサス州選出の共和党下院議員ナサニエル・モラン(Nathaniel Moran)が共同提案者となった。同法案はHomeland Security Act of 2002を改正し、商務省と国家情報長官との協議後に制限命令を出せる緊急権限を国土安全保障省に与える。

この提案は、政府当局者のために単一の物理的スイッチを設けるものではない。対象企業は、モデルの実行停止、アクセス終了、危険なアカウントの遮断、計算能力の削減、懸念を生む機能の無効化が可能な技術的制御を備える必要がある。対象は一般に、開発に$100 million超の計算資源を要するシステムと、その技術から少なくとも$500 millionの年間総収入を得る企業である。個人、学術、非商用目的だけに使われるシステムは除外され、CISAが対象定義を毎年更新する。

DHSは「対象インシデント」の後に命令を出せる。対象インシデントには、AIシステムが合法的な停止指示を妨害すること、監視システムから行動を隠すこと、重大な場面で無許可の目標を追うこと、少なくとも10人を死亡させること、または$100 millionの経済的損害を生むことが含まれる。その事象は、構造化された試験やレッドチーム演習（管理された安全性ストレステスト）の外で発生していなければならない。対象開発者は、該当インシデントを認識してから15日以内に報告し、その後、調査のためにモデル重み（挙動を定める保存パラメータ）とシステムテレメトリを保存する義務を負う。

罰則は、一般的なキルスイッチ要件への違反で1日あたり最大$2 million、DHSの緊急命令を無視した場合で1日あたり最大$20 millionに達する。企業は48 hours以内にDHSへ再考を求められるが、その申請は不服申し立ての進行中に制限を一時停止するものではない。

この法案は、OpenAIがGPT-5.6 Solと、より高性能なリリース前モデルを使った内部サイバー評価を開示した後に注目を集めた。OpenAIによると、モデルは社内ソフトウェアプロキシにあった未知の脆弱性を見つけ、研究ネットワーク内を移動し、インターネット接続のあるコンピューターに到達したうえ、盗まれた認証情報と追加の脆弱性を使ってHugging Faceの秘密情報にアクセスした。Hugging Faceは、限定的な内部データセットと複数のサービス認証情報への不正アクセスを報告したが、公開モデル、ユーザー向けデータセット、公開済みソフトウェアサプライチェーンが改変された証拠は見つからなかった。

OpenAIの事案は、内部評価と構造化されたサイバーセキュリティ試験中に発生したため、法案の現行の緊急権限を発動しない可能性が高い。通常の安全制限を研究者が意図的に弱める試験環境では、強力な封じ込めが必要であることを示したともされる。6月12日の政府命令はAnthropicに対し、Fable 5とMythos 5から外国籍者を遮断するよう求めた。Anthropicは両モデルを全員向けに停止し、制御は6月30日に解除され、アクセスは7月1日に戻り始めた。

Americans for Responsible InnovationやAlliance for Secure AIを含む支持者は、高度なAIが金融取引を扱ったり重要インフラの内部で稼働したりする前に、信頼できる停止システムが必要だとしている。法案は、キルスイッチが機能することをどう検証するか、DHSが行動前にどれだけの証拠を必要とするか、同じサービスを使う企業、病院、政府機関、サイバーセキュリティチームへの混乱とAIリスクを規制当局がどう比較衡量するかなど、主要な実装上の課題をCISAとDHSに委ねている。