GDPの約1%に相当する米国の貿易黒字を支えるデジタル経済は、近年の人工知能の進歩により新たなリスクに直面している。ハッシュ化や暗号化といった従来のセキュリティ対策は、AIツールが鍵のかかった正面玄関ではなく、側面の窓から侵入するように保護を回避できるようになったため、その有効性を失いつつある。

Anthropicは、セキュリティ上の弱点を発見し修正を推奨するClaude Mythosと呼ばれる大規模言語モデル群を開発した。同社は公開範囲を制限しつつも、マイクロソフト、アップル、Amazonといった大手テクノロジー企業と技術を共有している。この能力は、AIがソフトウェアの脆弱性特定に悪用され、悪意ある者が機密情報へアクセスする可能性を示唆している。

AIを介したサイバー犯罪は、金融サービス、エネルギー、医療、公衆衛生などの重要インフラセクターを脅かすと警告されている。Claude Mythosのような能力がいずれ再現されることは避けられないため、専門家は規制のみでは不十分であると主張する。今後はサイバーシステムの設計思想を根底から見直し、AI耐性を持つソフトウェアや多層的な独立障壁を優先し、サイバーセキュリティ業界の新たな運用基準を確立する必要がある。

GDPの約1%に相当する米国の貿易黒字を支えるデジタル経済は、近年の人工知能の進歩により新たなリスクに直面している。ハッシュ化や暗号化といった従来のセキュリティ対策は、AIツールが鍵のかかった正面玄関ではなく、側面の窓から侵入するように保護を回避できるようになったため、その有効性を失いつつある。

Anthropicは、セキュリティ上の弱点を発見し修正を推奨するClaude Mythosと呼ばれる大規模言語モデル群を開発した。同社は公開範囲を制限しつつも、マイクロソフト、アップル、Amazonといった大手テクノロジー企業と技術を共有している。この能力は、AIがソフトウェアの脆弱性特定に悪用され、悪意ある者が機密情報へアクセスする可能性を示唆している。

AIを介したサイバー犯罪は、金融サービス、エネルギー、医療、公衆衛生などの重要インフラセクターを脅かすと警告されている。Claude Mythosのような能力がいずれ再現されることは避けられないため、専門家は規制のみでは不十分であると主張する。今後はサイバーシステムの設計思想を根底から見直し、AI耐性を持つソフトウェアや多層的な独立障壁を優先し、サイバーセキュリティ業界の新たな運用基準を確立する必要がある。