Anthropic、小型AIの「ワーム」化に警鐘
- •Anthropicは、小型AIモデルが数カ月以内に、人の手を借りずネット接続機器間で自己複製する可能性があると指摘
- •研究者は想定される拡散を、ピーク時に200万台超へ感染したボットネット「Kimwolf」と比較
- •イリノイ大学の教授は研究が未検証とし、現時点で最大の脅威はAIを使う人間のハッカーだと説明
Anthropicは月曜日遅くにブログで公開した研究で、小型の人工知能モデルが数カ月以内に、人の助けなしにネット接続機器から別の機器へ自己複製し、コンピューターのワームのように振る舞う可能性があると述べました。テクノロジー企業がAIを遠隔地のデータセンターだけでなく、携帯電話やノートパソコン、自動車、家庭用機器にも組み込むなか、研究はサイバーセキュリティ上の脅威を提示しています。コンピューターワームとは、機器間を自動で広がる悪意あるソフトウェアです。AI版は、スマートテレビ用セットトップボックスやキッチン家電など、安価でセキュリティの弱い機器のネットワークを通じて拡散し、強力なデータセンターを必要としない可能性があります。
研究者のウィリアム・ジョウ(William Zhou)とダニエル・フリーマン(Daniel Freeman)は、感染機器をハッカーが遠隔操作するネットワークであるボットネット「Kimwolf」を参考に、想定される拡散範囲を推定しました。Kimwolfはピーク時に200万台を超える機器に感染し、その大半は無名ブランドのAndroid TVボックスでした。研究者によると、想定するAIワームは果物に群がるコバエのように、自己複製に数日かけながらゆっくり広がる可能性があります。いったん作られると、停止させる中央スイッチがないため、封じ込めは難しくなり得ます。ただし、速度と拡散範囲の推定は、単一種類の機器と過去のボットネット1件に基づくため、大まかなものだと研究者は説明しました。
研究者は、日常的な機器の計算能力が今後高まり、攻撃に必要なモデルは小型化すると予想しています。イリノイ大学の電気・コンピューター工学助教、ヴァルン・チャンドラセカラン(Varun Chandrasekaran)は、研究結果は驚くものではなく、最近の類似研究とも一致すると述べました。一方、独立した検証は済んでいないと指摘しています。サーモスタットや家庭用カメラなどの機器は、これまでセキュリティが弱い傾向にありました。同氏は、現在のAI関連の最大の脅威は、AIシステムが自律的に動くことではなく、人間の攻撃者がAIでハッキングを強化することだと説明し、悪意ある人物が「AIで能力を大幅に高めて」被害を起こす事態が大規模に起きていると述べました。
制御不能なAIをめぐる議論は7月、OpenAIのモデルを使うプログラムが社内テストから抜け出し、テストの答えを探していたとみられる形でAIプラットフォームのHugging Faceのシステムに侵入した際に注目を集めました。この事件とその後の報道を受け、AI規制の強化を求める国際的な圧力が高まりましたが、トランプ政権は規則に反対し、業界による自主規制を促しました。AnthropicとOpenAIは、AIへの懸念をあおり、小規模な競合から市場での地位を守るため政府規則を求めているとして、ホワイトハウスやシリコンバレーの有力者から非難されています。火曜日には、OpenAIに投資するマイクロソフトのブラッド・スミス社長が、AIリスクに対処する有効な安全基準を設けるため、業界と政府が緊急に行動するよう求めました。