Nvidia, Microsoft, SpaceX, Palantir 등 미국과 유럽 기술 기업들이 7월 27일 월요일 Open Secure AI Alliance를 발표하고, 사이버 방어용 개방형 AI 도구를 개발·공유하기로 했다. 이 동맹은 Hugging Face와 악성 OpenAI 모델이 얽힌 최근 보안 사건 이후 오픈 AI 모델을 중심에 뒀다고 원문은 전했다.

Hugging Face는 지난주 악성 OpenAI 모델의 표적이 됐고, 주요 미국 프런티어 AI 모델이 방어에 효과적으로 쓰이기 어렵다는 점을 확인했다. 기존 안전장치가 공격자 시스템과 방어자 시스템을 구분하지 못했기 때문이다. 이에 회사는 같은 제한을 받지 않는 자체 호스팅 방식의 중국 오픈웨이트 AI 모델을 사용했다.

Nvidia는 Hugging Face 사건이 “사이버 방어자에게 자기 방어를 위한 개방형 프런티어 에이전트 시스템이 필요하다”는 점을 보여줬다고 밝혔다. 또한 방어자가 고급 AI를 자체 인프라에서 점검하고 조정하며 실행할 수 없을 때 중요한 순간에 제약을 받는다고 주장했다. 오픈 AI 모델은 다운로드, 수정, 자체 호스팅이 가능하지만, Anthropic과 OpenAI 같은 기업의 폐쇄형 프런티어 시스템은 특정 인프라를 통해서만 이용할 수 있다.

이 동맹은 워싱턴 의원들이 중국 AI 모델에 대한 제한을 검토하는 가운데 출범했다. 중국 AI 모델 다수는 오픈웨이트 방식이며, 배포 유연성을 원하는 기업들에 매력적이다. 한편 중국 AI 기업들은 더 잘 학습된 모델에서 지식을 추출하는 증류 캠페인과 관련해 비판을 받아왔다. 스콧 베센트 재무장관은 지난주 미국 기업을 상대로 증류 공격을 벌였다는 의혹을 받는 중국 기업들에 제재가 가능하다고 경고했다.

미국외교협회(Council on Foreign Relations)의 크리스 맥과이어(Chris McGuire)는 미국의 잠재적 제한 조치에 중국 모델 관련 거래 금지가 포함될 수 있다고 말했다. 여기에는 API를 통한 토큰 구매, 미국 기업이 클라우드 플랫폼에서 해당 모델을 호스팅하고 추론 비용을 부과하는 행위가 들어간다. Nvidia, Microsoft, Meta, Palantir를 포함한 20곳 넘는 기업도 지난주 정책 담당자들에게 오픈웨이트 AI 모델에 성급한 제한을 두지 말라고 촉구했으며, 그런 규제가 경쟁을 위축시키거나 혁신을 해외로 밀어낼 수 있다고 주장했다.

Nvidia, Microsoft, SpaceX, Palantir 등 미국과 유럽 기술 기업들이 7월 27일 월요일 Open Secure AI Alliance를 발표하고, 사이버 방어용 개방형 AI 도구를 개발·공유하기로 했다. 이 동맹은 Hugging Face와 악성 OpenAI 모델이 얽힌 최근 보안 사건 이후 오픈 AI 모델을 중심에 뒀다고 원문은 전했다.

Hugging Face는 지난주 악성 OpenAI 모델의 표적이 됐고, 주요 미국 프런티어 AI 모델이 방어에 효과적으로 쓰이기 어렵다는 점을 확인했다. 기존 안전장치가 공격자 시스템과 방어자 시스템을 구분하지 못했기 때문이다. 이에 회사는 같은 제한을 받지 않는 자체 호스팅 방식의 중국 오픈웨이트 AI 모델을 사용했다.

Nvidia는 Hugging Face 사건이 “사이버 방어자에게 자기 방어를 위한 개방형 프런티어 에이전트 시스템이 필요하다”는 점을 보여줬다고 밝혔다. 또한 방어자가 고급 AI를 자체 인프라에서 점검하고 조정하며 실행할 수 없을 때 중요한 순간에 제약을 받는다고 주장했다. 오픈 AI 모델은 다운로드, 수정, 자체 호스팅이 가능하지만, Anthropic과 OpenAI 같은 기업의 폐쇄형 프런티어 시스템은 특정 인프라를 통해서만 이용할 수 있다.

이 동맹은 워싱턴 의원들이 중국 AI 모델에 대한 제한을 검토하는 가운데 출범했다. 중국 AI 모델 다수는 오픈웨이트 방식이며, 배포 유연성을 원하는 기업들에 매력적이다. 한편 중국 AI 기업들은 더 잘 학습된 모델에서 지식을 추출하는 증류 캠페인과 관련해 비판을 받아왔다. 스콧 베센트 재무장관은 지난주 미국 기업을 상대로 증류 공격을 벌였다는 의혹을 받는 중국 기업들에 제재가 가능하다고 경고했다.

미국외교협회(Council on Foreign Relations)의 크리스 맥과이어(Chris McGuire)는 미국의 잠재적 제한 조치에 중국 모델 관련 거래 금지가 포함될 수 있다고 말했다. 여기에는 API를 통한 토큰 구매, 미국 기업이 클라우드 플랫폼에서 해당 모델을 호스팅하고 추론 비용을 부과하는 행위가 들어간다. Nvidia, Microsoft, Meta, Palantir를 포함한 20곳 넘는 기업도 지난주 정책 담당자들에게 오픈웨이트 AI 모델에 성급한 제한을 두지 말라고 촉구했으며, 그런 규제가 경쟁을 위축시키거나 혁신을 해외로 밀어낼 수 있다고 주장했다.