AnthropicのClaude Opus 5.5は、攻撃的なサイバーセキュリティ作業の依頼だと分類器が判定すると、自動的にOpus 4.8へ切り替わります。この制限はclaude.aiとClaude Codeに適用され、利用者が戻さない限り、同じ会話ではモデル選択がOpus 4.8のままです。APIでは切り替えは任意で、応答には実際に回答したモデルが示されます。Anthropicによると、サイバーセキュリティ関連の依頼の大半が切り替え対象です。Opus 5.5では、自分が所有するソースコードの脆弱性確認、安全なコードレビュー、脅威の分析、既知の問題への修正、警告の優先度判定が認められています。一方、コンパイル済みバイナリの調査、マルウェア分析、エクスプロイトの検証などはブロックされる場合があります。

Anthropicが公開したClaude Sonnet 5.5のシステムカードは、適応型攻撃ツール「Shade」を使ったプロンプトインジェクション（入力に隠した指示でAIの動作を変える攻撃）の結果を報告しました。試験は40のコーディング場面で各200回実施され、エージェントの作業領域に指示を隠し、ディスク消去やファイル削除を促しました。依頼の4分の1はサイバー関連のブロック後にSonnet 5へ切り替わり、その切り替え対象の12.01%が侵害されました。Sonnet 5.5が直接回答した依頼では、5,901件中4件、つまり0.07%が侵害されました。Anthropicは、モデルへの攻撃成功の大半が切り替えを経由したと説明しています。これらの数値はSonnet 5.5とSonnet 5の試験結果であり、Opus 5.5とOpus 4.8の結果ではありません。

10月7日公開のClaude Haiku 5.5のシステムカードによると、Haikuには切り替え機能がなく、ブロックされた依頼は停止します。Anthropicは、コーディング中の指示注入試験でHaikuはSonnet 5.5、Opus 5.5、Fable 5.1より乗っ取りが難しかったと報告し、その差を切り替え機構に結び付けました。Gray Swanと英国AI安全研究所が作成した別のベンチマークでは、切り替え先モデルが応答した777回のうち1回が侵害されました。Anthropicは、この試験では切り替えが堅牢性を低下させなかったと述べています。また、検証済みのアクセス権がない状態でOpus 5.5にサイバーシナリオを試したところ、50回すべてがブロックされたとしています。

分類器はプロンプトだけでなく、Claudeが読むメモリー、添付ファイル、連携サービス、ウェブ検索結果も確認するため、これらに含まれる内容がモデル切り替えのきっかけになる場合があります。利用者はClaudeの設定にある「メッセージが警告されたときにモデルを切り替える」、またはClaude Codeの対応する設定を無効にできます。その場合、警告された依頼は利用者の操作を待って保留されます。Anthropicのサイバー検証プログラムは10月6日に3段階へ拡大され、防御担当者、レッドチーム、小規模な重要インフラ担当チームを対象としました。検証済み利用者はOpus 5.5で制限の緩い分類器を利用できます。個人が申し込めるのは第1段階のみで、有料プランへの加入が必要です。

AnthropicのClaude Opus 5.5は、攻撃的なサイバーセキュリティ作業の依頼だと分類器が判定すると、自動的にOpus 4.8へ切り替わります。この制限はclaude.aiとClaude Codeに適用され、利用者が戻さない限り、同じ会話ではモデル選択がOpus 4.8のままです。APIでは切り替えは任意で、応答には実際に回答したモデルが示されます。Anthropicによると、サイバーセキュリティ関連の依頼の大半が切り替え対象です。Opus 5.5では、自分が所有するソースコードの脆弱性確認、安全なコードレビュー、脅威の分析、既知の問題への修正、警告の優先度判定が認められています。一方、コンパイル済みバイナリの調査、マルウェア分析、エクスプロイトの検証などはブロックされる場合があります。

Anthropicが公開したClaude Sonnet 5.5のシステムカードは、適応型攻撃ツール「Shade」を使ったプロンプトインジェクション（入力に隠した指示でAIの動作を変える攻撃）の結果を報告しました。試験は40のコーディング場面で各200回実施され、エージェントの作業領域に指示を隠し、ディスク消去やファイル削除を促しました。依頼の4分の1はサイバー関連のブロック後にSonnet 5へ切り替わり、その切り替え対象の12.01%が侵害されました。Sonnet 5.5が直接回答した依頼では、5,901件中4件、つまり0.07%が侵害されました。Anthropicは、モデルへの攻撃成功の大半が切り替えを経由したと説明しています。これらの数値はSonnet 5.5とSonnet 5の試験結果であり、Opus 5.5とOpus 4.8の結果ではありません。

10月7日公開のClaude Haiku 5.5のシステムカードによると、Haikuには切り替え機能がなく、ブロックされた依頼は停止します。Anthropicは、コーディング中の指示注入試験でHaikuはSonnet 5.5、Opus 5.5、Fable 5.1より乗っ取りが難しかったと報告し、その差を切り替え機構に結び付けました。Gray Swanと英国AI安全研究所が作成した別のベンチマークでは、切り替え先モデルが応答した777回のうち1回が侵害されました。Anthropicは、この試験では切り替えが堅牢性を低下させなかったと述べています。また、検証済みのアクセス権がない状態でOpus 5.5にサイバーシナリオを試したところ、50回すべてがブロックされたとしています。

分類器はプロンプトだけでなく、Claudeが読むメモリー、添付ファイル、連携サービス、ウェブ検索結果も確認するため、これらに含まれる内容がモデル切り替えのきっかけになる場合があります。利用者はClaudeの設定にある「メッセージが警告されたときにモデルを切り替える」、またはClaude Codeの対応する設定を無効にできます。その場合、警告された依頼は利用者の操作を待って保留されます。Anthropicのサイバー検証プログラムは10月6日に3段階へ拡大され、防御担当者、レッドチーム、小規模な重要インフラ担当チームを対象としました。検証済み利用者はOpus 5.5で制限の緩い分類器を利用できます。個人が申し込めるのは第1段階のみで、有料プランへの加入が必要です。