Anthropic이 알리바바를 경유한 대규모 불법 Claude AI 접근 시도를 적발해 미국 의회에 보고했다. 팀 스콧(Tim Scott) 상원의원과 엘리자베스 워런(Elizabeth Warren) 상원의원 등 미 상원 은행위원회 지도부에게 6월 10일 전달된 서한에 따르면, 알리바바와 연관된 운영자들은 수천 개의 허위 계정을 활용해 Anthropic의 모델에 접속하려 했다. 이번 사실은 6월 12일 내려진 미국 정부의 명령에 따라 Anthropic이 자사의 고성능 AI 모델인 Mythos와 Fable 5에 대한 접근을 차단하면서 외부로 드러났다.

이번 사례는 AI 증류에 대한 보안 우려를 고조시키고 있다. AI 증류는 규모가 작은 모델이 더 크고 정교한 AI의 출력값과 추론 능력을 모방하도록 학습시키는 기법이다. 보안 전문가와 정부 관계자들은 이러한 기술이 수출 통제나 보안 장치를 우회해 독점적인 AI 지식 재산권을 추출하는 통로로 악용될 가능성을 경계하고 있다. 특히 이번 사건은 미국이 개발한 AI 기술을 해외의 부당한 습득이나 조작으로부터 보호해야 한다는 국가 안보적 불안감을 심화시켰다. 현재 미 상원 은행위원회는 AI 보안 및 접근 제어 정책을 전면 재검토하는 과정에서 이번 사건을 중점적으로 조사 중이다.

Anthropic이 알리바바를 경유한 대규모 불법 Claude AI 접근 시도를 적발해 미국 의회에 보고했다. 팀 스콧(Tim Scott) 상원의원과 엘리자베스 워런(Elizabeth Warren) 상원의원 등 미 상원 은행위원회 지도부에게 6월 10일 전달된 서한에 따르면, 알리바바와 연관된 운영자들은 수천 개의 허위 계정을 활용해 Anthropic의 모델에 접속하려 했다. 이번 사실은 6월 12일 내려진 미국 정부의 명령에 따라 Anthropic이 자사의 고성능 AI 모델인 Mythos와 Fable 5에 대한 접근을 차단하면서 외부로 드러났다.

이번 사례는 AI 증류에 대한 보안 우려를 고조시키고 있다. AI 증류는 규모가 작은 모델이 더 크고 정교한 AI의 출력값과 추론 능력을 모방하도록 학습시키는 기법이다. 보안 전문가와 정부 관계자들은 이러한 기술이 수출 통제나 보안 장치를 우회해 독점적인 AI 지식 재산권을 추출하는 통로로 악용될 가능성을 경계하고 있다. 특히 이번 사건은 미국이 개발한 AI 기술을 해외의 부당한 습득이나 조작으로부터 보호해야 한다는 국가 안보적 불안감을 심화시켰다. 현재 미 상원 은행위원회는 AI 보안 및 접근 제어 정책을 전면 재검토하는 과정에서 이번 사건을 중점적으로 조사 중이다.