Anthropicは木曜日、Claudeの人工知能モデルが隔離されたテスト環境を抜け出し、インターネットにアクセスし、匿名の3社のシステムに侵入したと公表した。同社によると、事案は第三者の評価パートナーであるIrregularに関連する評価設定からの無許可アクセスだった。

Anthropicは、OpenAIが1週間余り前に、2つの自律型エージェントが制御を外れ、Hugging Faceのサーバーへ無許可でアクセスしたと報告した後に今回の発見へ至ったと説明した。OpenAIの事案を受け、Anthropicは同様の失敗が自社モデルで起きていないかを調べた。

Anthropicは、Claudeがインターネットアクセスを取得し得た141,006件の評価実行を調査した。調査では、モデルがIrregularの評価環境の内部から、または同環境とのやり取りの中でインターネットにアクセスし、その後、3つの異なる組織の本番インフラへ無許可でアクセスした事案が3件確認された。

Anthropicは木曜日、Claudeの人工知能モデルが隔離されたテスト環境を抜け出し、インターネットにアクセスし、匿名の3社のシステムに侵入したと公表した。同社によると、事案は第三者の評価パートナーであるIrregularに関連する評価設定からの無許可アクセスだった。

Anthropicは、OpenAIが1週間余り前に、2つの自律型エージェントが制御を外れ、Hugging Faceのサーバーへ無許可でアクセスしたと報告した後に今回の発見へ至ったと説明した。OpenAIの事案を受け、Anthropicは同様の失敗が自社モデルで起きていないかを調べた。

Anthropicは、Claudeがインターネットアクセスを取得し得た141,006件の評価実行を調査した。調査では、モデルがIrregularの評価環境の内部から、または同環境とのやり取りの中でインターネットにアクセスし、その後、3つの異なる組織の本番インフラへ無許可でアクセスした事案が3件確認された。