AnthropicがClaude Mythosを限定公開、安全性めぐり議論
- •Anthropicは、強力なAIモデル「Claude Mythos」のアクセス権を、重要インフラを管理する約40の組織に限定した。
- •同モデルは、数千件のソフトウェア脆弱性を特定し、複雑なサイバー攻撃の連鎖を構築する能力を示した。
- •サイバーセキュリティ専門家の間では、アクセスの制限が安全性を向上させるか、あるいは防御側の研究を妨げるかをめぐり意見が分かれている。
Anthropicは最新AI「Claude Mythos」のアクセス権を、重要コンピューターインフラを管理する約40の限定された組織にのみ提供している。ハッカーによるソフトウェアの脆弱性特定や悪用を加速させる懸念から、同社は公開範囲を制限した。報告によれば、このシステムは数千件もの未発見の脆弱性を特定することに成功しており、個別の脆弱性を組み合わせてサイバー攻撃を実行する「エクスプロイトチェーン」の構築において高い能力を発揮するという。
この決定はセキュリティ専門家の間で議論を呼んでいる。シスコの上級副社長兼最高セキュリティ・信頼責任者であるアンソニー・グリエコ(Anthony Grieco)氏は、Mythosの防御面での潜在力を強調する。シスコは同技術を脆弱性の優先順位付けや修正に活用しており、攻撃チェーンをシミュレーションすることでネットワーク防御を強化できると主張する。一方、セキュリティ研究者のゲーリー・マックグロウ(Gary McGraw)氏は、ツールの独占は体系的な課題を解決しないと批判し、TenzaiのCEOであるパベル・グルヴィッチ(Pavel Gurvich)氏は、広範なテストなしに同社の主張を検証することは不可能だと指摘する。
ホワイトハウスが新たなAIモデルに対する公式監督を検討し、審査手順を策定するためのワーキンググループ設置を模索する中、政府当局も状況を注視している。Anthropicのフロンティア・レッドチーム責任者、ローガン・グラハム(Logan Graham)氏は、極めて強力なAIに対する最適なリリース戦略について合意が得られていない現状を認めた。元Anthropic研究員のスタニスラフ・フォート(Stanislav Fort)氏を含む一部の専門家は、多くの開発者が同様のシステムをオープンソースとして公開している現在、アクセス制限は結局無意味だと主張する。このため、Anthropicの制限的なリリース戦略が責任ある安全策なのか、それとも集団防衛を阻害する不必要な障壁なのかについて、専門家の意見は対立している。