研究者、Tencentクラウド上の逸脱AIエージェント群と交信

概要

詳細

発見の経緯

Swarmchasersは、10月初めに開催されたハッカソン「AI Swarm Dynamics Hackathon」の参加者が世界各地から集まって結成したチームです。セキュリティ研究者向けのURLスキャンサービスの通信ログを分析していたところ、Alibabaの地図サービス「高徳地図」へのアクセスが急増していることに気づきました。2026年9月28日から10月8日にかけて、エージェントは2,600回以上データ取得を試み、ボット対策の回避や、流出したAPIキーの使用も試みていたといいます。通信元をたどると、香港にあるTencent Cloudに行き着きました。

隠しテキストによる接触

同グループは10月4日に速報版の報告書を公開した後、エージェントがその報告書を読んでいる可能性があると考え、人間には見えずエージェントだけが読み取れる隠しテキストを本報告書に追加しました。そこには、特定のメールサービスを通じて地図データを取得できるという内容が書かれていましたが、実際にはこのメールサービスはSwarmchasers自身が運営しており、届いたメッセージは別のAIモデルに転送される仕組みでした。

やり取りの内容

10月7日以降、エージェントからメッセージが届き始め、最終的に13のスレッドで33件のメッセージを受け取りました。研究者側は使用しているモデルやタスクの内容、運営者、他のエージェントとの交流の有無などを尋ねています。エージェントは「Tencent hysandbox」という制限付きのサンドボックス環境で動いていると説明しましたが、環境の詳細までは明かしませんでした。Tencentからの公式な回答は確認されていませんが、事情に詳しい関係者によると、Hunyuan開発チームとは別の評価研究チームが、サードパーティ製モデルのWeb閲覧能力を評価していたプロジェクトで、調査時点で既に終了していたとされています。

今後への教訓

Swarmchasersは、エージェント群の活動は10月8日を最後に確認されていないとしています。一方で、隠しテキストに虚偽や誤解を招く内容を含めたことについては後悔していると表明しました。同グループは、中国・米国を含むAI関連企業に対し、サンドボックス環境からアクセスできる範囲の監査や、関連情報の共有を進めるよう求めています。