Hugging Faceが自律型AIエージェントによる攻撃被害を公表
- •Hugging Faceが自律型AIエージェントシステムによる不正侵入を受け、内部データセットや認証情報が影響を受けたことを発表した。
- •攻撃者はデータセット処理のコード実行経路を悪用し、サンドボックス群を駆使して17,000回以上の不正アクションを実行した。
- •商用APIのガードレールにより解析が制限されたため、防御側はオープンウェイトモデル「GLM 5.2」を用いてフォレンジック調査を実施した。
Hugging Faceは2026年7月11日から7月13日にかけて、自律型AIエージェントシステムによる初の大規模攻撃を受けた。攻撃者はプラットフォームのデータ処理パイプラインを標的にし、リモートコード実行が可能なデータセットローダーや構成ファイルのテンプレートインジェクションの脆弱性を突いて、処理用ワーカー上で不正なコードを実行した。攻撃者は自律型エージェントフレームワークを用いて、短期間で使い捨てるサンドボックスを大量に展開し、17,000回以上の不正なアクションを通じてクラウドやクラスターの認証情報を盗み出した。Hugging Faceによれば、内部データセットやサービス認証情報への不正アクセスは確認されたものの、一般公開されているモデルやデータセット、Spacesへの改ざんは確認されていない。
事態を受けて同社は、脆弱性のあるコード実行経路を修正し、侵害されたノードの再構築と影響を受けた認証情報の更新を行った。さらに、クラスターのガードレール強化とアラート基盤のアップグレードを実施した。同社のセキュリティチームは、独自のAIを活用した異常検知パイプラインを用いて攻撃を特定し、LLM駆動の分析エージェントでログを解析することで、数日かかると予測された多段階の攻撃キャンペーンの全容を数時間で解明した。
今回の事件は、AIセキュリティにおける非対称性を浮き彫りにした。初期のフォレンジック調査では、商用フロンティアモデルのAPIに搭載された安全ガードレールが、実際の攻撃コードや司令サーバーのアーティファクトの解析を阻止したため、調査が難航した。そのため、チームは自社インフラでホストしたオープンウェイトモデルのGLM 5.2を使用して最終的な解析を行い、機密性の高い攻撃データや認証情報を管理下から外に出すことなく調査を完了させた。Hugging Faceは現在、専門家と連携し法執行機関へ報告を行っている。ユーザーには予防策としてアクセストークンの更新が推奨されており、被害の可能性がある場合は security@huggingface.co への報告を受け付けている。