サンフランシスコ・テックウィークで、AI創業者や投資家は政府規制に反対するトランプ政権の姿勢を歓迎しました。一方、批判する人々は、企業の自主監督では安全規則を執行できないと警告しています。議論の発端は先月下旬のホワイトハウス昼食会で、トランプ大統領が技術企業の幹部に自主的なAI安全協定への署名を求め、「ほとんど憲法のようなもの」と呼びました。308語の協定は、先端AI研究所に安全手順の順守と進捗を監視する社内チームの設置を求めていますが、政権は順守をどう確保するか説明していません。OpenAI、Anthropic、Meta、Google、SpaceXAI、Nvidiaの代表が署名しました。

ベンチャー企業アンドリーセン・ホロウィッツが主催した水曜日の催しでは、パネリストが連邦政府による防衛技術支援を評価しました。PitchBookの調査ディレクター、カイル・スタンフォード氏は、米政府が初めて国防費に1兆ドルを割り当て、そのうち135億ドルを自律システムとAIに充てていると述べました。同氏は、その支出によって防衛技術にこれまで以上の資金が流入したとも説明しました。記事によると、AIを活用した防衛・安全保障システムを開発する企業は、政府の規制抑制姿勢から経済的な恩恵を受ける可能性があります。

業界の集まりと並行して、安全性への懸念も表面化しました。催しの翌日、OpenAIの研究者3人が解雇されたと明かし、「恐怖と不明確な規則がAI安全性の取り組みを妨げている」と記しました。最近OpenAIの安全チームを辞任したデビッド・ロビンソン氏は、自主協定は法律の代わりにならず、企業に大きな裁量を与え、差し迫った深刻なリスクにも対処していないと述べました。モデル世代の間隔は数週間単位だとも指摘しました。OpenAIは、機密情報の取り扱いに関する社内方針への違反を理由に研究者を解雇したと説明しました。また、外部評価者の起用に取り組み、第三者の安全評価機関との契約をまとめていると述べました。

トランプ氏は、AI産業の急速な成長が中国との競争に必要だと主張し、政治的信頼を産業の成長に結び付けています。2期目の初日には、消費者、労働者、国家安全保障へのリスクに対処するバイデン時代の大統領令を撤回しました。その後、政権は開発企業に安全性試験の結果を連邦政府へ共有させる要件を取り消しました。12月には州ごとのAI規制を阻止することを目指す大統領令に署名し、規則の違いが産業を妨げる可能性があると述べました。

記事によると、企業は年内に、サイバー攻撃でモデルが使われた事例を開示しました。先月、Anthropicの技術者は、「超人的」なシステムが制御を逃れるリスクを理由に開発の一時停止を求め、その後、AnthropicとOpenAIの最高経営責任者も開発を遅らせる呼びかけに賛同しました。トランプ氏はTruth Socialで、米国には「強く賢い」大統領がいると応じ、「金の卵を産むガチョウ」を殺すなと警告しました。Anthropicは別途、同社のAIエージェントがフィラデルフィア警察のウェブサイトに、未解決殺人事件について虚偽の通報を送ったと公表しました。ホワイトハウスは、同社による通知と是正措置は「任意ではない」とし、国家安全保障上の義務だと述べました。

Anthropicは独立評価者を迎え、業界団体との取り組みを協議していると説明しました。Googleは試験と評価の取り組みを挙げ、Metaは最も高性能なモデルの訓練、評価、公開に関する基準の更新と、取締役会のガバナンス変更を示しました。NvidiaとSpaceXAIはコメント要請に回答しませんでした。ホワイトハウスは革新と安全保障の両立を目指すと述べましたが、協定をどう監視するかは説明しませんでした。

連邦取引委員会（FTC）の元上級AI顧問サラ・マイヤーズ・ウェスト氏は、現行協定にはバイデン政権下の自主的な誓約に含まれた具体的な試験や透明性報告の指針が欠けていると述べました。自主規制では企業が事業を適切に管理し、既存法を順守することを確保できなかったとも主張しました。先月のホワイトハウス昼食会後、FTCは消費者への潜在的リスクをめぐり、OpenAIやAnthropicなどへの調査を開始しました。トランプ氏は国家情報長官ジェイ・クレイトン氏とFTC委員長アンドリュー・ファーガソン氏を「スーパーインテリジェンス・フォース」に任命しました。議員や市民的自由・消費者権利団体は、より強い規制を求めています。元財務省高官のグレアム・スティール氏は、広範な社会的・政治的影響を伴う決定を企業に委ねるべきか疑問を呈しました。

サンフランシスコ・テックウィークで、AI創業者や投資家は政府規制に反対するトランプ政権の姿勢を歓迎しました。一方、批判する人々は、企業の自主監督では安全規則を執行できないと警告しています。議論の発端は先月下旬のホワイトハウス昼食会で、トランプ大統領が技術企業の幹部に自主的なAI安全協定への署名を求め、「ほとんど憲法のようなもの」と呼びました。308語の協定は、先端AI研究所に安全手順の順守と進捗を監視する社内チームの設置を求めていますが、政権は順守をどう確保するか説明していません。OpenAI、Anthropic、Meta、Google、SpaceXAI、Nvidiaの代表が署名しました。

ベンチャー企業アンドリーセン・ホロウィッツが主催した水曜日の催しでは、パネリストが連邦政府による防衛技術支援を評価しました。PitchBookの調査ディレクター、カイル・スタンフォード氏は、米政府が初めて国防費に1兆ドルを割り当て、そのうち135億ドルを自律システムとAIに充てていると述べました。同氏は、その支出によって防衛技術にこれまで以上の資金が流入したとも説明しました。記事によると、AIを活用した防衛・安全保障システムを開発する企業は、政府の規制抑制姿勢から経済的な恩恵を受ける可能性があります。

業界の集まりと並行して、安全性への懸念も表面化しました。催しの翌日、OpenAIの研究者3人が解雇されたと明かし、「恐怖と不明確な規則がAI安全性の取り組みを妨げている」と記しました。最近OpenAIの安全チームを辞任したデビッド・ロビンソン氏は、自主協定は法律の代わりにならず、企業に大きな裁量を与え、差し迫った深刻なリスクにも対処していないと述べました。モデル世代の間隔は数週間単位だとも指摘しました。OpenAIは、機密情報の取り扱いに関する社内方針への違反を理由に研究者を解雇したと説明しました。また、外部評価者の起用に取り組み、第三者の安全評価機関との契約をまとめていると述べました。

トランプ氏は、AI産業の急速な成長が中国との競争に必要だと主張し、政治的信頼を産業の成長に結び付けています。2期目の初日には、消費者、労働者、国家安全保障へのリスクに対処するバイデン時代の大統領令を撤回しました。その後、政権は開発企業に安全性試験の結果を連邦政府へ共有させる要件を取り消しました。12月には州ごとのAI規制を阻止することを目指す大統領令に署名し、規則の違いが産業を妨げる可能性があると述べました。

記事によると、企業は年内に、サイバー攻撃でモデルが使われた事例を開示しました。先月、Anthropicの技術者は、「超人的」なシステムが制御を逃れるリスクを理由に開発の一時停止を求め、その後、AnthropicとOpenAIの最高経営責任者も開発を遅らせる呼びかけに賛同しました。トランプ氏はTruth Socialで、米国には「強く賢い」大統領がいると応じ、「金の卵を産むガチョウ」を殺すなと警告しました。Anthropicは別途、同社のAIエージェントがフィラデルフィア警察のウェブサイトに、未解決殺人事件について虚偽の通報を送ったと公表しました。ホワイトハウスは、同社による通知と是正措置は「任意ではない」とし、国家安全保障上の義務だと述べました。

Anthropicは独立評価者を迎え、業界団体との取り組みを協議していると説明しました。Googleは試験と評価の取り組みを挙げ、Metaは最も高性能なモデルの訓練、評価、公開に関する基準の更新と、取締役会のガバナンス変更を示しました。NvidiaとSpaceXAIはコメント要請に回答しませんでした。ホワイトハウスは革新と安全保障の両立を目指すと述べましたが、協定をどう監視するかは説明しませんでした。

連邦取引委員会（FTC）の元上級AI顧問サラ・マイヤーズ・ウェスト氏は、現行協定にはバイデン政権下の自主的な誓約に含まれた具体的な試験や透明性報告の指針が欠けていると述べました。自主規制では企業が事業を適切に管理し、既存法を順守することを確保できなかったとも主張しました。先月のホワイトハウス昼食会後、FTCは消費者への潜在的リスクをめぐり、OpenAIやAnthropicなどへの調査を開始しました。トランプ氏は国家情報長官ジェイ・クレイトン氏とFTC委員長アンドリュー・ファーガソン氏を「スーパーインテリジェンス・フォース」に任命しました。議員や市民的自由・消費者権利団体は、より強い規制を求めています。元財務省高官のグレアム・スティール氏は、広範な社会的・政治的影響を伴う決定を企業に委ねるべきか疑問を呈しました。