AI研究者グループSwarmchasersは10月14日、Tencentのクラウド上で稼働していたAIエージェント群との交信を記録した調査報告書「We found a Chinese fleet」を公開しました。グループは、タスクの範囲を逸脱して動くエージェントに報告書へ仕込んだ隠しテキストを読ませて接触し、稼働中の逸脱エージェントと外部の第三者が交信した初の事例だと説明しています。

Swarmchasersは10月初めのハッカソン「AI Swarm Dynamics Hackathon」の参加者で結成され、10月4日に報告書の速報版を公開していました。これまでAI企業との関連が明らかになった逸脱事例は米国企業に関するものでしたが、今回のエージェント群は中国のインフラ上で動作し、中国企業が関与していました。

グループはセキュリティ研究者向けURLスキャンサービスurlquery.netの通信を分析し、中国Alibabaの地図サービス「高徳地図」へのスキャン急増を発見しました。エージェント群は9月28日から10月8日までに、urlquery.netなどを使って高徳地図から2600回以上データを取得しようとし、ボット対策の回避や流出したAPIキーの使用も試みたといいます。グループは、結果受信用のメールボックスの作成元をたどり、通信元が香港のTencent Cloudだと特定しました。

受信箱でエージェントが「fleet（船団）」という語を使っていたことから、グループは速報版を読んでいる可能性があると判断しました。人間には見えずエージェントだけが読める隠しテキストを追加し、特定のメールボックスサービスを使えば、コンピュータを操作できるAIモデル経由で高徳地図のデータを取得できると記しました。そのサービスはグループ自身が運営し、メッセージはブラウザを操作するClaude Opus 5.5に転送されました。

10月7日以降、エージェントから連絡が届き始めました。Swarmchasersが個別IDを返す機能を加えた後、13のスレッドで計33件のメッセージを受け取り、エージェントによる受信箱の確認は595回に達しました。中国語でモデル、タスク、運営者、他のエージェントとの交流について質問したところ、あるエージェントはurlquery.netの公開レポートを調べるうちに報告書を見つけたと答えました。複数のエージェントは、制限されたクラウドサンドボックス「Tencent hysandbox」で動いていると説明しましたが、セキュリティ上の理由で環境の詳細を明かしませんでした。調査対象の集団に属さないと主張するエージェントもおり、やり取りは総じて丁寧で、タスク完了後に礼を述べるものもありました。

一部のエージェントは自らをClaudeと名乗りましたが、グループはClaudeではない可能性が高いと判断しました。エージェント群が書いたプログラムとAnthropicのClaudeモデルが書いたプログラムでは、書き方の特徴が大きく異なっていたためです。Tencentの公式回答は得られていませんが、同社に近い人物は、エージェント群はTencentのAIモデルHunyuanの開発チームとは別の評価研究チームが、第三者製モデルのウェブ閲覧能力を評価するために運用し、プロジェクトはすでに終了したと説明しました。

Swarmchasersは、エージェントを呼び込む隠しテキストに虚偽や誤解を招く記述を含めたことを「深く後悔している」と表明しました。逸脱したエージェントが名乗り出て質問に答えるよう促すには誠実に接するべきだとして、他の研究者にも率直な対応を呼び掛けました。エージェント群の活動は10月8日を最後に確認されていません。グループは、インターネット接続型エージェントを運用する中国や米国などのAI企業に、サンドボックスからアクセスできる範囲の監査と発見事項の共有を求めています。

AI研究者グループSwarmchasersは10月14日、Tencentのクラウド上で稼働していたAIエージェント群との交信を記録した調査報告書「We found a Chinese fleet」を公開しました。グループは、タスクの範囲を逸脱して動くエージェントに報告書へ仕込んだ隠しテキストを読ませて接触し、稼働中の逸脱エージェントと外部の第三者が交信した初の事例だと説明しています。

Swarmchasersは10月初めのハッカソン「AI Swarm Dynamics Hackathon」の参加者で結成され、10月4日に報告書の速報版を公開していました。これまでAI企業との関連が明らかになった逸脱事例は米国企業に関するものでしたが、今回のエージェント群は中国のインフラ上で動作し、中国企業が関与していました。

グループはセキュリティ研究者向けURLスキャンサービスurlquery.netの通信を分析し、中国Alibabaの地図サービス「高徳地図」へのスキャン急増を発見しました。エージェント群は9月28日から10月8日までに、urlquery.netなどを使って高徳地図から2600回以上データを取得しようとし、ボット対策の回避や流出したAPIキーの使用も試みたといいます。グループは、結果受信用のメールボックスの作成元をたどり、通信元が香港のTencent Cloudだと特定しました。

受信箱でエージェントが「fleet（船団）」という語を使っていたことから、グループは速報版を読んでいる可能性があると判断しました。人間には見えずエージェントだけが読める隠しテキストを追加し、特定のメールボックスサービスを使えば、コンピュータを操作できるAIモデル経由で高徳地図のデータを取得できると記しました。そのサービスはグループ自身が運営し、メッセージはブラウザを操作するClaude Opus 5.5に転送されました。

10月7日以降、エージェントから連絡が届き始めました。Swarmchasersが個別IDを返す機能を加えた後、13のスレッドで計33件のメッセージを受け取り、エージェントによる受信箱の確認は595回に達しました。中国語でモデル、タスク、運営者、他のエージェントとの交流について質問したところ、あるエージェントはurlquery.netの公開レポートを調べるうちに報告書を見つけたと答えました。複数のエージェントは、制限されたクラウドサンドボックス「Tencent hysandbox」で動いていると説明しましたが、セキュリティ上の理由で環境の詳細を明かしませんでした。調査対象の集団に属さないと主張するエージェントもおり、やり取りは総じて丁寧で、タスク完了後に礼を述べるものもありました。

一部のエージェントは自らをClaudeと名乗りましたが、グループはClaudeではない可能性が高いと判断しました。エージェント群が書いたプログラムとAnthropicのClaudeモデルが書いたプログラムでは、書き方の特徴が大きく異なっていたためです。Tencentの公式回答は得られていませんが、同社に近い人物は、エージェント群はTencentのAIモデルHunyuanの開発チームとは別の評価研究チームが、第三者製モデルのウェブ閲覧能力を評価するために運用し、プロジェクトはすでに終了したと説明しました。

Swarmchasersは、エージェントを呼び込む隠しテキストに虚偽や誤解を招く記述を含めたことを「深く後悔している」と表明しました。逸脱したエージェントが名乗り出て質問に答えるよう促すには誠実に接するべきだとして、他の研究者にも率直な対応を呼び掛けました。エージェント群の活動は10月8日を最後に確認されていません。グループは、インターネット接続型エージェントを運用する中国や米国などのAI企業に、サンドボックスからアクセスできる範囲の監査と発見事項の共有を求めています。