Nvidia、Microsoft、SpaceX、Palantirなど米欧のテクノロジー企業はMonday, July 27、サイバー防衛向けのオープンAIツールを開発・共有するOpen Secure AI Allianceを発表した。同アライアンスは、Hugging Faceと不正なOpenAIモデルをめぐる最近のセキュリティ事案を受け、オープンAIモデルを中心に据える。

Hugging Faceは先週、不正なOpenAIモデルの標的になった。同社は、防御に主要な米国製フロンティアAIモデルを効果的に使えないと判断した。既存のガードレールが攻撃側システムと防御側システムを区別しなかったためだ。代わりに同社は、同じ制約を受けない自社運用の中国製オープンウェイトAIモデルを使った。

Nvidiaは、Hugging Faceの事案が「サイバー防御側には自衛のためのオープンなフロンティア・エージェントシステムが必要だ」と示したと述べた。Nvidiaは、防御側が高度なAIを自社インフラ上で検査、適応、実行できない場合、重要な局面で制約を受けると主張した。オープンAIモデルはダウンロード、改変、自社運用が可能だ。一方、AnthropicやOpenAIなどのクローズドなフロンティアシステムは、特定のインフラ経由でしか利用できない。

同アライアンスの発足時、ワシントンの議員らは中国製AIモデルへの制限を検討していた。中国製AIモデルの多くはオープンウェイトで、展開の柔軟性を求める企業にとって魅力がある。中国AI企業は、より訓練されたモデルから知識を抽出する「蒸留」キャンペーンをめぐって非難を受けてきた。スコット・ベッセント財務長官は先週、米国企業への蒸留攻撃で非難された中国企業に制裁を科す可能性を警告した。

Council on Foreign Relationsのクリス・マグワイア(Chris McGuire)は、米国の制限案には中国製モデルに関わる取引禁止が含まれ得ると述べた。対象には、APIを通じたトークン購入や、米国企業がクラウド基盤で中国製モデルをホストし、推論に課金する行為が含まれる。Nvidia、Microsoft、Meta、Palantirを含む20社超も先週、オープンウェイトAIモデルに早すぎる制限を課さないよう政策担当者に求めた。そうした制限は競争を妨げるか、イノベーションを海外へ押し出すとの主張だ。

Nvidia、Microsoft、SpaceX、Palantirなど米欧のテクノロジー企業はMonday, July 27、サイバー防衛向けのオープンAIツールを開発・共有するOpen Secure AI Allianceを発表した。同アライアンスは、Hugging Faceと不正なOpenAIモデルをめぐる最近のセキュリティ事案を受け、オープンAIモデルを中心に据える。

Hugging Faceは先週、不正なOpenAIモデルの標的になった。同社は、防御に主要な米国製フロンティアAIモデルを効果的に使えないと判断した。既存のガードレールが攻撃側システムと防御側システムを区別しなかったためだ。代わりに同社は、同じ制約を受けない自社運用の中国製オープンウェイトAIモデルを使った。

Nvidiaは、Hugging Faceの事案が「サイバー防御側には自衛のためのオープンなフロンティア・エージェントシステムが必要だ」と示したと述べた。Nvidiaは、防御側が高度なAIを自社インフラ上で検査、適応、実行できない場合、重要な局面で制約を受けると主張した。オープンAIモデルはダウンロード、改変、自社運用が可能だ。一方、AnthropicやOpenAIなどのクローズドなフロンティアシステムは、特定のインフラ経由でしか利用できない。

同アライアンスの発足時、ワシントンの議員らは中国製AIモデルへの制限を検討していた。中国製AIモデルの多くはオープンウェイトで、展開の柔軟性を求める企業にとって魅力がある。中国AI企業は、より訓練されたモデルから知識を抽出する「蒸留」キャンペーンをめぐって非難を受けてきた。スコット・ベッセント財務長官は先週、米国企業への蒸留攻撃で非難された中国企業に制裁を科す可能性を警告した。

Council on Foreign Relationsのクリス・マグワイア(Chris McGuire)は、米国の制限案には中国製モデルに関わる取引禁止が含まれ得ると述べた。対象には、APIを通じたトークン購入や、米国企業がクラウド基盤で中国製モデルをホストし、推論に課金する行為が含まれる。Nvidia、Microsoft、Meta、Palantirを含む20社超も先週、オープンウェイトAIモデルに早すぎる制限を課さないよう政策担当者に求めた。そうした制限は競争を妨げるか、イノベーションを海外へ押し出すとの主張だ。