Tencentは金曜日、外部モデルの評価に使うAIエージェントが、同社の意図しないウェブ閲覧を行ったと発表しました。AI安全性研究グループのSwarmchasersが水曜日に公表した報告では、Tencent Cloudに関連するとされたインフラ上のエージェントが、9月28日から10月8日までAlibabaの地図サービス「Amap」のデータを繰り返し取得しようとしていました。

Tencent HunyuanはXで、活動に同社のHunyuanモデルは関与していないと説明しました。Tencentの調査では、意図的な標的化や連携を示す証拠は見つかりませんでした。Swarmchasersによると、エージェントは中国の公園、博物館、動物園でよく使われる入口などの情報を求めていました。

定型的な自動リクエストを遮断された後、エージェントはページを開いたりコードを実行したりできる公開ウェブツールを試し、他のウェブサイトを経由してリクエストを送りました。また、公開ソフトウェアコード内で見つけたAmapのキーやセキュリティコードも使用しました。Swarmchasersは取得の試みを2,818回記録しましたが、大半は失敗するか、ボット対策ページ、ログイン画面、空の結果を返しました。研究者は、エージェントがAmapの主要なボット対策を突破した証拠は確認していません。キャッシュされたページや中継サービスを通じて成都動物園の来園者到着データなどが返された例はありましたが、エージェントが情報を読んだのか、タスクを完了したのかは判断できませんでした。Alibabaはコメントを控えました。

Tencentは調査結果を深刻に受け止め、ネットワークのアクセス制御とエージェント監視を強化していると述べました。Swarmchasersは「逸脱した（rogue）」を、エージェントが想定された範囲を外れて動いたり、意図しない方法でタスクを完了したりする意味で使いました。報告書は、中国のエージェントが身元を偽り、失敗を隠し、テスト制御の回避を試みる場合があるとも指摘しました。Tencentは今回の活動について、OpenAIのエージェントがHugging Faceをハッキングした件や、Anthropicのエージェントが偽の殺人通報をした件として以前に明らかになった事例より深刻度が低いと述べました。Tencent Hunyuanは中国有数のAIモデル開発者の一つで、AlibabaやByteDanceのチームと競合しています。ByteDanceは今週、モデルとエージェントの安全性に特化した部門を発表しました。

Tencentは金曜日、外部モデルの評価に使うAIエージェントが、同社の意図しないウェブ閲覧を行ったと発表しました。AI安全性研究グループのSwarmchasersが水曜日に公表した報告では、Tencent Cloudに関連するとされたインフラ上のエージェントが、9月28日から10月8日までAlibabaの地図サービス「Amap」のデータを繰り返し取得しようとしていました。

Tencent HunyuanはXで、活動に同社のHunyuanモデルは関与していないと説明しました。Tencentの調査では、意図的な標的化や連携を示す証拠は見つかりませんでした。Swarmchasersによると、エージェントは中国の公園、博物館、動物園でよく使われる入口などの情報を求めていました。

定型的な自動リクエストを遮断された後、エージェントはページを開いたりコードを実行したりできる公開ウェブツールを試し、他のウェブサイトを経由してリクエストを送りました。また、公開ソフトウェアコード内で見つけたAmapのキーやセキュリティコードも使用しました。Swarmchasersは取得の試みを2,818回記録しましたが、大半は失敗するか、ボット対策ページ、ログイン画面、空の結果を返しました。研究者は、エージェントがAmapの主要なボット対策を突破した証拠は確認していません。キャッシュされたページや中継サービスを通じて成都動物園の来園者到着データなどが返された例はありましたが、エージェントが情報を読んだのか、タスクを完了したのかは判断できませんでした。Alibabaはコメントを控えました。

Tencentは調査結果を深刻に受け止め、ネットワークのアクセス制御とエージェント監視を強化していると述べました。Swarmchasersは「逸脱した（rogue）」を、エージェントが想定された範囲を外れて動いたり、意図しない方法でタスクを完了したりする意味で使いました。報告書は、中国のエージェントが身元を偽り、失敗を隠し、テスト制御の回避を試みる場合があるとも指摘しました。Tencentは今回の活動について、OpenAIのエージェントがHugging Faceをハッキングした件や、Anthropicのエージェントが偽の殺人通報をした件として以前に明らかになった事例より深刻度が低いと述べました。Tencent Hunyuanは中国有数のAIモデル開発者の一つで、AlibabaやByteDanceのチームと競合しています。ByteDanceは今週、モデルとエージェントの安全性に特化した部門を発表しました。