AnthropicのAIが米国政府システムに脆弱性を発見
- •Anthropicのモデル「Mythos」がProject Glasswingのテスト中に米国政府システムの脆弱性を特定した。
- •上院議員のマーク・ワーナーは、同モデルがNSA指導部のデータを基に数時間で機密システムへ侵入したと報告した。
- •トランプ政権はAnthropicに対し、Fable 5およびMythos 5モデルへの外国からのアクセスを制限するよう命じた。
AnthropicのAIモデル「Mythos」が、政府の機密コンピューターシステム内の脆弱性を特定することに成功した。AP通信が報じたこの検証は、国家安全保障や公共の安全、経済を脅かす潜在的リスクから重要インフラを保護する目的のプロジェクト「Project Glasswing」の一環として実施された。6月11日の上院委員会での公聴会において、上院議員のマーク・ワーナーは、本AIモデルが数週間ではなくわずか数時間で機密システムへの侵入を果たしたと指摘した。この事実は、国家安全保障局（NSA）長官兼サイバー軍司令官であるジョシュア・ラッド将軍から提供された情報に基づく。なお、NSAとAnthropicの双方は、これらの詳細な調査結果に対して公式なコメントを発表していない。
一方、こうした協力体制にもかかわらず、Anthropicとトランプ政権の間の緊張は高まっている。政権は6月上旬、Anthropicに対し、最新モデルである「Fable 5」および「Mythos 5」への外国人によるアクセスを制限するよう指示した。この措置は、ドナルド・トランプ大統領が署名した大統領令に基づくもので、政府が高度なAIシステムの公開前最大1カ月間にわたり国家安全保障上のリスクを審査する任意フレームワークを構築している。
Anthropicは指示に従い、全顧客に対してこれらモデルの利用を停止したが、政府の措置が特定されたセキュリティ上の懸念に見合う正当なものだとは考えていない。AdobeやNvidiaのリーダーを含む100名以上のサイバーセキュリティ専門家らは、政権に対して制限の撤廃を求める書簡を正式に提出した。彼らは「Mythos」モデルがソフトウェアの欠陥を検知・悪用する能力に長けているとはいえ、特異なスキルを持っているわけではなく、高度な防御ツールを削除すればかえって米国システムが脆弱化し、外国の敵対勢力を利することになると主張している。