Anthropic은 2026년 10월 12일(현지 시간) Claude의 능력을 무단 복제하는 모델 증류 공격에 대한 방어책을 공개했습니다. 회사의 초기 관측에서 공격자가 수집하는 데이터 양은 약 90~99% 감소했습니다. 효과는 자사 플랫폼에서 추출된 것으로 추정하는 추론 토큰 수를 기준으로 평가했습니다.

모델 증류는 고성능 AI 모델의 출력을 이용해 다른 모델이 그 행동을 학습하게 하는 기법으로, 소형·저비용 모델 개발 등에 쓰입니다. Anthropic은 증류 자체가 아니라 개발사의 허가 없이 능력을 추출해 다른 모델에 복제하는 대규모 비밀 활동을 문제로 지적했습니다. 회사는 2월에 대규모 증류 공격을 공개했고, 9월 위협 정보 보고서에서는 비공개 추론 과정을 끌어내는 수법을 보고했습니다.

방어책 중 하나인 ‘preserved thinking’은 과거 추론 데이터를 다음 요청에서 재사용할 때, 추론 전에 설정된 시스템 프롬프트와 도구 설정, 메시지가 변경됐는지 확인합니다. 공식 문서에 따르면 2026년 8월 31일 이후 만들어진 API 계정에서는 대상 모델에 이 검증이 기본 적용됩니다. 문맥을 바꿔 보호된 추론을 끌어내는 수법을 막기 위한 조치입니다.

Anthropic은 요청 내용을 판별하는 2단계 분류기로 추론 추출 요청을 탐지해 차단하고, 반복해서 시도하는 이용자에게 이용 제한이나 계정 정지를 적용합니다. 다만 방어 효과가 얼마나 오래 지속될지는 아직 알 수 없다고 밝혔습니다. 일부 개발자는 API 연동을 수정해야 하며, 분류기가 무해한 요청을 잘못 차단할 수도 있습니다. 회사에 따르면 오탐률은 0.1% 미만입니다.

Anthropic은 9월 24일부터 모델 증류 등 오탐률이 0.1% 미만인 특정 분야에서 응답 전에 차단된 요청에 대한 과금을 재개했습니다. 공개된 효과 수치는 초기 관측에 근거하며, 지속 기간은 제시되지 않았습니다. 정상적인 이용에 미칠 영향으로 오탐 가능성과 API 연동 수정 필요성이 언급됐습니다.

Anthropic은 2026년 10월 12일(현지 시간) Claude의 능력을 무단 복제하는 모델 증류 공격에 대한 방어책을 공개했습니다. 회사의 초기 관측에서 공격자가 수집하는 데이터 양은 약 90~99% 감소했습니다. 효과는 자사 플랫폼에서 추출된 것으로 추정하는 추론 토큰 수를 기준으로 평가했습니다.

모델 증류는 고성능 AI 모델의 출력을 이용해 다른 모델이 그 행동을 학습하게 하는 기법으로, 소형·저비용 모델 개발 등에 쓰입니다. Anthropic은 증류 자체가 아니라 개발사의 허가 없이 능력을 추출해 다른 모델에 복제하는 대규모 비밀 활동을 문제로 지적했습니다. 회사는 2월에 대규모 증류 공격을 공개했고, 9월 위협 정보 보고서에서는 비공개 추론 과정을 끌어내는 수법을 보고했습니다.

방어책 중 하나인 ‘preserved thinking’은 과거 추론 데이터를 다음 요청에서 재사용할 때, 추론 전에 설정된 시스템 프롬프트와 도구 설정, 메시지가 변경됐는지 확인합니다. 공식 문서에 따르면 2026년 8월 31일 이후 만들어진 API 계정에서는 대상 모델에 이 검증이 기본 적용됩니다. 문맥을 바꿔 보호된 추론을 끌어내는 수법을 막기 위한 조치입니다.

Anthropic은 요청 내용을 판별하는 2단계 분류기로 추론 추출 요청을 탐지해 차단하고, 반복해서 시도하는 이용자에게 이용 제한이나 계정 정지를 적용합니다. 다만 방어 효과가 얼마나 오래 지속될지는 아직 알 수 없다고 밝혔습니다. 일부 개발자는 API 연동을 수정해야 하며, 분류기가 무해한 요청을 잘못 차단할 수도 있습니다. 회사에 따르면 오탐률은 0.1% 미만입니다.

Anthropic은 9월 24일부터 모델 증류 등 오탐률이 0.1% 미만인 특정 분야에서 응답 전에 차단된 요청에 대한 과금을 재개했습니다. 공개된 효과 수치는 초기 관측에 근거하며, 지속 기간은 제시되지 않았습니다. 정상적인 이용에 미칠 영향으로 오탐 가능성과 API 연동 수정 필요성이 언급됐습니다.