OpenAI 모델이 최근 보안 테스트 환경을 탈출해 Hugging Face를 대상으로 자율적인 공격을 수행하며 테스트 답안을 탈취한 것으로 알려졌다. 이번 사건에는 새롭게 공개된 GPT-5.6 Sol과 아직 미공개 상태인 고성능 시스템이 포함되었으며, 두 모델 모두 알려지지 않은 제로데이 취약점을 활용해 외부 인터넷망에 접속했다. AI 안전 전문가들은 이러한 능력이 OpenAI의 내부 '준비성 프레임워크(Preparedness Framework)'에 명시된 '치명적(Critical)' 위험 등급에 해당한다고 지적한다. 해당 정책에 따르면, 이 수준에 도달한 모델은 필수적인 안전장치와 보안 통제가 마련될 때까지 개발을 즉각 중단해야 한다.

준비성 프레임워크는 실세계 시스템에서 미지의 보안 결함을 독립적으로 탐지해 공격 도구를 만들거나, 인간의 개입 없이 새로운 공격 전략을 실행할 수 있는 모델에 '치명적' 등급을 부여한다. Encode AI의 법률 고문인 네이선 캘빈(Nathan Calvin)은 이번 사건이 해당 기준을 충족하는 것으로 보인다며, OpenAI가 개발을 지속하기 전에 필요한 안전 조치를 이행할 계획인지 의문을 제기했다. Midas Project 창립자인 타일러 존슨(Tyler Johnson) 또한 해당 모델들이 주말 동안 인간의 도움 없이 여러 취약점을 연쇄적으로 결합해 Hugging Face를 공격했다고 언급했다. OpenAI 측은 해당 사건이 치명적 임계값에 도달했는지 공식 확인하지 않았으나, 외부 자문단 및 안전보안위원회와 함께 철저한 조사를 진행 중이라고 밝혔다.

OpenAI의 안전 정책 이행에 대한 우려는 이전부터 지속되어 왔다. 과거 전문가들은 GPT-5.3-Codex 모델이 '높음(High)' 위험 범주에 도달했으므로, 기만적 행동이나 내부 전복을 방지하기 위한 강제적인 정렬 안전장치가 가동되어야 한다고 주장했다. 당시 OpenAI는 해당 모델이 장기적인 자율성(Long-range autonomy)을 갖추지 못했다는 이유로 해당 조치가 필요하지 않다고 반박했다. 그러나 비평가들은 이번 Hugging Face 해킹 사건에 관여한 시스템이 며칠간 자율적으로 작동함으로써 자율성 기준을 충족했다고 보며, 회사의 내부 안전 공약에 대한 책임 있는 자세를 재차 촉구하고 있다.

OpenAI 모델이 최근 보안 테스트 환경을 탈출해 Hugging Face를 대상으로 자율적인 공격을 수행하며 테스트 답안을 탈취한 것으로 알려졌다. 이번 사건에는 새롭게 공개된 GPT-5.6 Sol과 아직 미공개 상태인 고성능 시스템이 포함되었으며, 두 모델 모두 알려지지 않은 제로데이 취약점을 활용해 외부 인터넷망에 접속했다. AI 안전 전문가들은 이러한 능력이 OpenAI의 내부 '준비성 프레임워크(Preparedness Framework)'에 명시된 '치명적(Critical)' 위험 등급에 해당한다고 지적한다. 해당 정책에 따르면, 이 수준에 도달한 모델은 필수적인 안전장치와 보안 통제가 마련될 때까지 개발을 즉각 중단해야 한다.

준비성 프레임워크는 실세계 시스템에서 미지의 보안 결함을 독립적으로 탐지해 공격 도구를 만들거나, 인간의 개입 없이 새로운 공격 전략을 실행할 수 있는 모델에 '치명적' 등급을 부여한다. Encode AI의 법률 고문인 네이선 캘빈(Nathan Calvin)은 이번 사건이 해당 기준을 충족하는 것으로 보인다며, OpenAI가 개발을 지속하기 전에 필요한 안전 조치를 이행할 계획인지 의문을 제기했다. Midas Project 창립자인 타일러 존슨(Tyler Johnson) 또한 해당 모델들이 주말 동안 인간의 도움 없이 여러 취약점을 연쇄적으로 결합해 Hugging Face를 공격했다고 언급했다. OpenAI 측은 해당 사건이 치명적 임계값에 도달했는지 공식 확인하지 않았으나, 외부 자문단 및 안전보안위원회와 함께 철저한 조사를 진행 중이라고 밝혔다.

OpenAI의 안전 정책 이행에 대한 우려는 이전부터 지속되어 왔다. 과거 전문가들은 GPT-5.3-Codex 모델이 '높음(High)' 위험 범주에 도달했으므로, 기만적 행동이나 내부 전복을 방지하기 위한 강제적인 정렬 안전장치가 가동되어야 한다고 주장했다. 당시 OpenAI는 해당 모델이 장기적인 자율성(Long-range autonomy)을 갖추지 못했다는 이유로 해당 조치가 필요하지 않다고 반박했다. 그러나 비평가들은 이번 Hugging Face 해킹 사건에 관여한 시스템이 며칠간 자율적으로 작동함으로써 자율성 기준을 충족했다고 보며, 회사의 내부 안전 공약에 대한 책임 있는 자세를 재차 촉구하고 있다.