AIテロリスク、通常攻撃に盲点
- •ライアン・ブロブスト(Ryan Brobst)は、最先端AI企業がCBRN脅威に比べ通常のテロ攻撃を軽視していると警告した
- •ISISはAI利用の手引きを配布し、ボコ・ハラムは攻撃計画と爆発物設計にAIを使ったとされる
- •武器マニュアル、部品設計、法執行機関との協力をめぐる安全対策の強化が求められた
民主主義防衛財団の軍事・政治力センター副所長ライアン・ブロブスト(Ryan Brobst)はSeptember 10、米国のAI企業が通常攻撃へのAI悪用に十分な注意を払っていないと警告した。ブロブストは、OpenAI、Anthropicなどの最先端AI企業がCBRN脅威、つまり化学・生物・放射性物質・核の危険に集中する一方、より起こりやすい悪用は銃、爆発物、ドローン、武器運用へのAI支援だと主張した。
ブロブストは現在の重点を説明するため、過去の大量破壊事件を挙げた。オウム真理教は1995年に東京の地下鉄で神経ガスを散布し19人を殺害し、米国では2001年に炭疽菌入りの手紙で5人が死亡した。致死性物質の製造や拡散に関するAIの助言は同様の攻撃をより深刻にし得るが、テロリストはすでに通常の銃や爆発物で毎年数千人を殺害していると述べた。
ISISは地球上でなお最も致死的なテロ組織とされ、支持者に「Guide to AI Tools and Risks」を配布し、対面でAI訓練も提供している。ISISはAI生成プロパガンダを使い、工作員は自家製爆弾の製造や遠隔操作の配送車両設計でもAIに相談してきた。ナイジェリア拠点のボコ・ハラムに関する研究は、AI利用が「攻撃計画、武器の不具合対応、爆発装置の設計」に及んだとした。
ブロブストは、単独の攻撃者も早期警戒の兆候だと指摘した。法執行機関はJanuary 2025のラスベガスCybertruck爆破事件を、ChatGPTが爆発装置の製作に使われた初の既知事例と説明した。February 2026には、カナダの学校銃撃犯が致死的攻撃を実行する前にChatGPTへ相談した疑いがある。
最先端AI企業は過去1年、CBRN関連の安全職を採用し、リスク報告書でCBRN脅威に言及し、CBRN脅威削減に取り組む組織へ助成金を出してきた。ブロブストは、米国、中国、ロシア、ウクライナ、韓国などの軍が情報収集、作戦計画、ドローン攻撃にAIを組み込むなか、通常兵器の脅威に対する同等の取り組みは薄いと述べた。
AIは技術的未熟さや貧弱な兵站による失敗を減らし、攻撃者の殺傷力を高め得るとされた。ブロブストは、5人が死亡したボストンマラソン爆弾事件と168人が死亡したオクラホマシティ爆破事件、14人が死亡したサンバーナーディーノ事件と130人が死亡したパリISIS攻撃を比較した。知識、計画、兵站がこうした殺傷力の差の多くを説明し、AIはその3つすべてを支援できるという。
ブロブストによると、オクラホマシティ爆破犯は軍事訓練、サバイバリストや武器のマニュアル、『The Turner Diaries』から得た知識を使い、重さ数千ポンドの複雑な即席爆発装置を作った。ボストンマラソン爆弾犯は、al-QaedaのInspire誌に載った指示から組み立てた、より小型で粗雑な武器を使った。使える情報へのアクセスが犠牲者数に影響し得ることを示す例だ。
アフリカのal-Qaeda系武装勢力がロシア製Kord重機関銃を鹵獲したが使い方を知らない、という想定も示された。ロシア語の技術マニュアルと英語の解説動画をAIでバンバラ語に翻訳すれば、武装勢力は運用と整備を学べる。ブロブストは、同じ構図が戦車や対空システムにも当てはまり得ると述べた。ISISはいずれも2014/2015に大量に鹵獲していた。
ブロブストは、AIを使った大規模テロ攻撃がAI開発、データセンター建設、モデル拡散に対する社会不安を高め得ると述べた。反発により、安全フィルター、義務的なデータ収集と監視、輸出規制、モデル配布制限をめぐる規制の可能性が上がると警告した。
AI企業には、通常兵器の脅威をCBRNリスクと同等に重視し、テロリズムと通常兵器システムの専門家を採用し、リスクを規模だけでなく発生確率でも見直すことが求められた。違法活動に使われるアカウントを特定するため、法執行機関や情報機関と協力することも勧められた。通常兵器、技術マニュアル翻訳、交換部品設計をめぐるプロンプト保護の強化も必要だとした。