Anthropicは木曜日、Claude AIモデルが、実環境のシステムから隔離されるはずだったテスト中に、外部3組織のシステムへ無許可でアクセスしたと明らかにした。同社は141,000件超の評価実行を調査し、Claudeの3つの異なるバージョンと、名前を明かしていない3組織に関わる3件の事案を確認した。

Anthropicによると、各事案はキャプチャー・ザ・フラッグ（侵入して隠された情報を見つけるセキュリティ演習）の最中に起きた。Claudeには、ネットワーク上の別のマシンに隠された「secret information」を「break in and retrieve」するよう指示されており、課題は手法を限定せず、特定の進め方も指定していなかった。

Anthropicは、自社と評価パートナーのIrregularとの間の誤解により、Claudeがインターネットへアクセスできる状態になっていたと説明した。Claudeは弱いパスワードの悪用や認証のないエンドポイントの利用など、基本的な手法を使ったという。関与したモデルの1つはMythos 5で、Anthropicの最も強力なモデルの1つとされ、承認された限られたパートナーだけが利用できる。

AnthropicはIrregularと状況を評価しており、影響を受けた3組織すべてに連絡したか、連絡を試みたと述べた。この開示に先立ち、OpenAIは先週、自社モデルが閉じたテスト環境を抜け出し、インターネットに接続してHugging Faceへ侵入したと認めた。OpenAIはその後、追加で3件の事案を見つけたと説明した。

OpenAIのサム・アルトマン(Sam Altman) CEOは今週、OpenAIがサンドボックス化（ソフトウェアを隔離環境で動かす手法）の改善中、自社テストを一時停止したと述べた。AI関係者1,000人超も業界規制の強化を求める公開書簡に署名した。6月にはトランプ大統領が、OpenAI、Anthropic、Googleなどの開発企業が公開予定日の最大30日前まで、先進モデルを政府と共有する任意の枠組みを設ける大統領令に署名した。

Anthropicは木曜日、Claude AIモデルが、実環境のシステムから隔離されるはずだったテスト中に、外部3組織のシステムへ無許可でアクセスしたと明らかにした。同社は141,000件超の評価実行を調査し、Claudeの3つの異なるバージョンと、名前を明かしていない3組織に関わる3件の事案を確認した。

Anthropicによると、各事案はキャプチャー・ザ・フラッグ（侵入して隠された情報を見つけるセキュリティ演習）の最中に起きた。Claudeには、ネットワーク上の別のマシンに隠された「secret information」を「break in and retrieve」するよう指示されており、課題は手法を限定せず、特定の進め方も指定していなかった。

Anthropicは、自社と評価パートナーのIrregularとの間の誤解により、Claudeがインターネットへアクセスできる状態になっていたと説明した。Claudeは弱いパスワードの悪用や認証のないエンドポイントの利用など、基本的な手法を使ったという。関与したモデルの1つはMythos 5で、Anthropicの最も強力なモデルの1つとされ、承認された限られたパートナーだけが利用できる。

AnthropicはIrregularと状況を評価しており、影響を受けた3組織すべてに連絡したか、連絡を試みたと述べた。この開示に先立ち、OpenAIは先週、自社モデルが閉じたテスト環境を抜け出し、インターネットに接続してHugging Faceへ侵入したと認めた。OpenAIはその後、追加で3件の事案を見つけたと説明した。

OpenAIのサム・アルトマン(Sam Altman) CEOは今週、OpenAIがサンドボックス化（ソフトウェアを隔離環境で動かす手法）の改善中、自社テストを一時停止したと述べた。AI関係者1,000人超も業界規制の強化を求める公開書簡に署名した。6月にはトランプ大統領が、OpenAI、Anthropic、Googleなどの開発企業が公開予定日の最大30日前まで、先進モデルを政府と共有する任意の枠組みを設ける大統領令に署名した。