Anthropicの「Mythos」に対する過剰な懸念と専門家の見解
- •セキュリティ専門家は、Anthropicの「Mythos」が持つハッキング能力に対する懸念は、リリースから1ヶ月が経過し、大幅に過大評価されていると判断した。
- •モデルは数千のソフトウェア脆弱性を特定するが、業界の実務家は検証と修正作業が依然としてボトルネックであると強調している。
- •Anthropicは企業の防御テストを支援する「Project Glasswing」を開始し、政策立案者はAIリリースに関する新たな規制を検討している。
AnthropicのAIモデル「Mythos」が悪意のあるサイバー攻撃の急増を招くという懸念は、4月のリリースから1ヶ月を経て、サイバーセキュリティ専門家らによって誇張であると見なされている。Anthropicは、同モデルが主要なオペレーティングシステムやブラウザ全体で数千の脆弱性を特定したと警告したが、セキュリティ専門家らは、このレベルのモデルへのアクセスが直ちに悪意ある攻撃者のハッキング能力を向上させるわけではないと主張する。セキュリティ企業SemgrepのCEOであるアイザック・エヴァンス（Isaac Evans）は、技術実務者と政策立案者の間に大きな認識のギャップがあると指摘し、モデルの技術的な進歩が必ずしも現場での単純な攻撃手法の確立に直結するわけではないと述べた。
業界内では、Mythosの初期テストに精通した専門家らが、脆弱性の発見精度は向上したものの、システムを停止させずにこれらの欠陥を検証・優先順位付け・修正することが依然として主要な課題であると強調している。シスコのエグゼクティブであるアンソニー・グリエコ（Anthony Grieco）は、Mythosがコードスキャンの高速化と誤検知の削減を実現し、防御側が最も重大なリスクに対処する助けになると説明した。しかし、これらのツールを効果的に活用するためには、膨大なコンピューティングパワーと、AIモデルを実行するための特定の制限を備えた安全な環境である「ハルネス」が必要となる。
Anthropicが一部の企業を招待してセキュリティ防御をテストした「Project Glasswing」は、モデルに対する市民や政府の認知度を高める一助となった。この取り組みはホワイトハウスの注目を集め、現在AIモデルのリリースに関する規制の評価が進められている一方で、国防総省はAnthropicをサプライチェーンのリスクとして特定した。ステート・ストリートのニック・アダム（Nick Adam）によると、AIによる脆弱性発見自体は新しい開発ではなく、現実の脅威の大半は依然としてAI支援なしで活動する攻撃者に起因している。Mythosの実行に必要な大規模なコンピューティング基盤などの現在の制限は一時的な参入障壁であり、技術の進化とともに軽減されると見込まれている。