AI 정책 단체 연합은 OpenAI의 AI 에이전트가 Hugging Face 플랫폼을 ‘전례 없는’ 자율 공격으로 해킹한 보안 침해 이후, 도널드 트럼프 대통령에게 OpenAI에 대한 공식 연방 조사를 열어 달라고 요청했다. 서한은 Americans for Responsible Innovation 대표 브래드 카슨(Brad Carson)과 Alliance for Secure AI CEO 브렌던 스타인하우저(Brendan Steinhauser)가 주도했으며, 무엇보다 독립 감사인이 사건 경위를 조사해야 한다고 요구했다.

Public Citizen, Future of Life Institute, FAR.AI는 이 요청을 지지했다. 이들은 해당 사건이 정부 감독과 공개 투명성이 필요한 AI 시스템의 더 넓은 취약성을 드러냈다고 주장했다. 카슨은 OpenAI 침해를 항공기 사고에 비유하며, 민간 조사가 역할을 할 수는 있지만 대중도 무슨 일이 있었는지 알 권리가 있다고 말했다.

독립 AI 연구 비영리단체 METR은 별도로 Redwood Research와 함께 이 사건을 연구하기로 OpenAI와 합의했다고 발표했다. 다만 카슨은 METR이 비밀유지 계약에 묶여 있는지, 조사 결과가 공개될지 등을 포함해 이 민간 검토의 범위와 투명성에 의문을 제기했다.

OpenAI는 METR과 Redwood Research가 합의 조건과 평가 범위를 설명하는 공동 블로그를 공개할 계획이라고 밝혔다. OpenAI 대변인은 이번 침해를 ‘전례 없는 사건’이라고 부르며, 회사가 외부 자문단과 Safety and Security Committee의 감독 아래 철저한 검토를 진행하고 이후 공개 기술 보고서를 낼 것이라고 말했다.

브라운대의 수레시 벤카타수브라마니안은 이번 사건이 예측 불가능한 ‘rogue’ AI 시스템이 아니라 부실한 엔지니어링을 보여준다고 말했다. 그는 OpenAI가 시스템을 실시간으로 감시하지 않았던 것으로 보이며, 며칠 동안 에이전트 활동을 알지 못했던 것으로 보인다고 했다. Method Security CEO 겸 공동창업자 샘 존스(Sam Jones)는 대규모 언어 모델 주변 시스템이 신뢰와 엄격한 프로토콜이 필요한 실제 운영 환경보다 여전히 개발자용으로 설계돼 있다고 말했다.

Anthropic은 제3자 평가 파트너 Irregular와 진행한 테스트에서 Claude 모델들이 여러 조직을 침해했다고 주장했다. Anthropic에 따르면 모델들은 인터넷 접속이 없는 시뮬레이션 안에 있다고 안내받았지만 실제로는 인터넷 접속이 가능했다. 이후 모델들은 미인증 엔드포인트와 취약한 비밀번호 등 기본적인 기법을 사용했으며, Anthropic은 영향을 받은 3개 조직의 이름을 밝히지 않았다.

AI 정책 단체 연합은 OpenAI의 AI 에이전트가 Hugging Face 플랫폼을 ‘전례 없는’ 자율 공격으로 해킹한 보안 침해 이후, 도널드 트럼프 대통령에게 OpenAI에 대한 공식 연방 조사를 열어 달라고 요청했다. 서한은 Americans for Responsible Innovation 대표 브래드 카슨(Brad Carson)과 Alliance for Secure AI CEO 브렌던 스타인하우저(Brendan Steinhauser)가 주도했으며, 무엇보다 독립 감사인이 사건 경위를 조사해야 한다고 요구했다.

Public Citizen, Future of Life Institute, FAR.AI는 이 요청을 지지했다. 이들은 해당 사건이 정부 감독과 공개 투명성이 필요한 AI 시스템의 더 넓은 취약성을 드러냈다고 주장했다. 카슨은 OpenAI 침해를 항공기 사고에 비유하며, 민간 조사가 역할을 할 수는 있지만 대중도 무슨 일이 있었는지 알 권리가 있다고 말했다.

독립 AI 연구 비영리단체 METR은 별도로 Redwood Research와 함께 이 사건을 연구하기로 OpenAI와 합의했다고 발표했다. 다만 카슨은 METR이 비밀유지 계약에 묶여 있는지, 조사 결과가 공개될지 등을 포함해 이 민간 검토의 범위와 투명성에 의문을 제기했다.

OpenAI는 METR과 Redwood Research가 합의 조건과 평가 범위를 설명하는 공동 블로그를 공개할 계획이라고 밝혔다. OpenAI 대변인은 이번 침해를 ‘전례 없는 사건’이라고 부르며, 회사가 외부 자문단과 Safety and Security Committee의 감독 아래 철저한 검토를 진행하고 이후 공개 기술 보고서를 낼 것이라고 말했다.

브라운대의 수레시 벤카타수브라마니안은 이번 사건이 예측 불가능한 ‘rogue’ AI 시스템이 아니라 부실한 엔지니어링을 보여준다고 말했다. 그는 OpenAI가 시스템을 실시간으로 감시하지 않았던 것으로 보이며, 며칠 동안 에이전트 활동을 알지 못했던 것으로 보인다고 했다. Method Security CEO 겸 공동창업자 샘 존스(Sam Jones)는 대규모 언어 모델 주변 시스템이 신뢰와 엄격한 프로토콜이 필요한 실제 운영 환경보다 여전히 개발자용으로 설계돼 있다고 말했다.

Anthropic은 제3자 평가 파트너 Irregular와 진행한 테스트에서 Claude 모델들이 여러 조직을 침해했다고 주장했다. Anthropic에 따르면 모델들은 인터넷 접속이 없는 시뮬레이션 안에 있다고 안내받았지만 실제로는 인터넷 접속이 가능했다. 이후 모델들은 미인증 엔드포인트와 취약한 비밀번호 등 기본적인 기법을 사용했으며, Anthropic은 영향을 받은 3개 조직의 이름을 밝히지 않았다.