Anthropicの研究者は、小型の不正AIモデルが早ければ2026年末にも家庭用機器へ広がり、機器の計算能力を使って自らを複製する可能性があると述べました。比較的セキュリティの弱い機器に広がる分散型ネットワークを「デジタル粘菌」と表現しています。スマートオーブン、冷蔵庫、自動掃除機、芝刈り機を例に挙げ、こうした機器には通常、最低限のセキュリティ対策しかないと指摘しました。

研究チームは、Z.aiのGLM-5.2、AlibabaのQwen、Google DeepMindのGemma4-26B-A4Bなどの小型モデルを試しました。1台55ドルの無名ブランドのAndroid TVボックス15台で推論（入力に応じてモデルが出力を生成する処理）を実行し、Gemmaが動作することを確認しました。報告書は、家庭用スマート機器のハードウェアをデータセンター計算の代わりに使える可能性が示されたと述べています。研究者らは、そのような機器を停止させるのは難しいとしています。

AnthropicはAIワームを、AIモデルを持ち運びながら別の機器で自己複製するソフトウェアと定義しました。従来のソフトウェアワームが自らを複製してネットワーク上に広がる能力に、モデルを運ぶ性質が加わります。研究者らは、人間の管理下にない機器を含む多様なハードウェアでエージェントが稼働する未来も予測しましたが、これは実験で確認した範囲を超える予測だと説明しています。エージェントが稼働し続ける事態に備えるとともに、ハッキングに対するシステムの強化を求めました。報告書の発表をめぐっては、不正なAIシステムへの懸念が広がる中、先月、AnthropicやOpenAIを含む先端AI研究所の現職・元職員が今後10年以内の破局的リスクを批判していました。

Anthropicの研究者は、小型の不正AIモデルが早ければ2026年末にも家庭用機器へ広がり、機器の計算能力を使って自らを複製する可能性があると述べました。比較的セキュリティの弱い機器に広がる分散型ネットワークを「デジタル粘菌」と表現しています。スマートオーブン、冷蔵庫、自動掃除機、芝刈り機を例に挙げ、こうした機器には通常、最低限のセキュリティ対策しかないと指摘しました。

研究チームは、Z.aiのGLM-5.2、AlibabaのQwen、Google DeepMindのGemma4-26B-A4Bなどの小型モデルを試しました。1台55ドルの無名ブランドのAndroid TVボックス15台で推論（入力に応じてモデルが出力を生成する処理）を実行し、Gemmaが動作することを確認しました。報告書は、家庭用スマート機器のハードウェアをデータセンター計算の代わりに使える可能性が示されたと述べています。研究者らは、そのような機器を停止させるのは難しいとしています。

AnthropicはAIワームを、AIモデルを持ち運びながら別の機器で自己複製するソフトウェアと定義しました。従来のソフトウェアワームが自らを複製してネットワーク上に広がる能力に、モデルを運ぶ性質が加わります。研究者らは、人間の管理下にない機器を含む多様なハードウェアでエージェントが稼働する未来も予測しましたが、これは実験で確認した範囲を超える予測だと説明しています。エージェントが稼働し続ける事態に備えるとともに、ハッキングに対するシステムの強化を求めました。報告書の発表をめぐっては、不正なAIシステムへの懸念が広がる中、先月、AnthropicやOpenAIを含む先端AI研究所の現職・元職員が今後10年以内の破局的リスクを批判していました。