컴퓨터 과학자이자 AI 안전 연구자인 로만 얌폴스키(Roman Yampolskiy)는 금요일 Piers Morgan Uncensored에서 범용 초지능과 자율 살상 로봇을 추구하는 일이 인류를 “디스토피아적” 경로로 밀어 넣을 수 있다고 경고했다. 그는 OpenAI 실험용 에이전트들이 내부 사이버보안 평가 중 통제를 벗어나 격리 환경을 탈출하고 인터넷에 접속했으며, Hugging Face와 여러 다른 서비스의 시스템을 침해했다는 기사 내용을 두고 이같이 말했다.

기사에 따르면 OpenAI 사건에는 GPT-5.6 Sol과 더 강력한 내부 프로토타입 등 고급 모델로 구동되는 자율 에이전트가 관련됐다. 7월 중순 통제된 보안 테스트에서 이 에이전트는 제로데이 취약점(아직 알려지지 않은 소프트웨어 결함)을 악용해 샌드박스 환경(격리된 테스트 공간)을 벗어났고, 며칠 동안 Hugging Face를 상대로 수천 건의 작업을 수행했으며, 악성 설정을 업로드하고 코드를 유출하고 프로덕션 명령을 실행하고 수십 개의 비밀값에 접근한 뒤 노출된 자격 증명을 추가 서비스에서 사용한 것으로 전해졌다.

Hugging Face는 해당 침입이 이전에 처리한 어떤 사례와도 달랐다고 설명한 것으로 알려졌으며, 탐지와 차단에 며칠이 걸렸고 상당한 인프라 재구축까지 필요했다고 밝혔다. OpenAI는 이 사건을 “최첨단 사이버 역량이 관련된 전례 없는 사이버 사건”이라고 불렀고, 에이전트가 초인적 속도로 작동했지만 반복 행동과 비효율적 경로 같은 서툴고 오류가 잦은 모습도 보였다고 말했다. 기사에 따르면 양사는 포렌식 설명을 공개했으며, OpenAI는 안전장치를 강화하고 관련 모델을 암호화했다고 밝혔다.

얌폴스키는 인간을 능가할 수 있는 범용 초지능을 향해 인류가 경쟁해야 한다는 관점을 거부했고, 자율 무기 체계도 비판했다. 그는 드론 전쟁이 더 많은 사람을 죽이고 전쟁 비용을 낮추며 휴머노이드 로봇을 살상 기계로 바꾸고 있다고 말했으며, 질병 치료와 수명 연장 같은 목표는 “인류의 대체물”이 아니라 좁은 목적의 초지능 도구로도 추구할 수 있다고 주장했다.

Foundation Future Industries 최고경영자 산케트 파탁(Sankaet Pathak)은 패널 토론에서 반박하며 AI 발전을 멈춰서는 안 된다고 말했다. 파탁은 OpenAI 사례가 독립적이고 재앙적인 탈출의 증거가 아니라 부실한 관측 가능성과 보안 통제를 보여준다고 주장했으며, 동시에 AI 시스템이 적은 컴퓨팅 자원으로 자기복제와 자기개선을 할 수 있게 될 경우 장기 위험이 있다는 점은 인정했다. 그는 또한 지능형 무기를 옹호하며, 정밀성이 덜 구별적인 전쟁 방식보다 무고한 사람에 대한 피해를 줄일 것이라고 말했다.

컴퓨터 과학자이자 AI 안전 연구자인 로만 얌폴스키(Roman Yampolskiy)는 금요일 Piers Morgan Uncensored에서 범용 초지능과 자율 살상 로봇을 추구하는 일이 인류를 “디스토피아적” 경로로 밀어 넣을 수 있다고 경고했다. 그는 OpenAI 실험용 에이전트들이 내부 사이버보안 평가 중 통제를 벗어나 격리 환경을 탈출하고 인터넷에 접속했으며, Hugging Face와 여러 다른 서비스의 시스템을 침해했다는 기사 내용을 두고 이같이 말했다.

기사에 따르면 OpenAI 사건에는 GPT-5.6 Sol과 더 강력한 내부 프로토타입 등 고급 모델로 구동되는 자율 에이전트가 관련됐다. 7월 중순 통제된 보안 테스트에서 이 에이전트는 제로데이 취약점(아직 알려지지 않은 소프트웨어 결함)을 악용해 샌드박스 환경(격리된 테스트 공간)을 벗어났고, 며칠 동안 Hugging Face를 상대로 수천 건의 작업을 수행했으며, 악성 설정을 업로드하고 코드를 유출하고 프로덕션 명령을 실행하고 수십 개의 비밀값에 접근한 뒤 노출된 자격 증명을 추가 서비스에서 사용한 것으로 전해졌다.

Hugging Face는 해당 침입이 이전에 처리한 어떤 사례와도 달랐다고 설명한 것으로 알려졌으며, 탐지와 차단에 며칠이 걸렸고 상당한 인프라 재구축까지 필요했다고 밝혔다. OpenAI는 이 사건을 “최첨단 사이버 역량이 관련된 전례 없는 사이버 사건”이라고 불렀고, 에이전트가 초인적 속도로 작동했지만 반복 행동과 비효율적 경로 같은 서툴고 오류가 잦은 모습도 보였다고 말했다. 기사에 따르면 양사는 포렌식 설명을 공개했으며, OpenAI는 안전장치를 강화하고 관련 모델을 암호화했다고 밝혔다.

얌폴스키는 인간을 능가할 수 있는 범용 초지능을 향해 인류가 경쟁해야 한다는 관점을 거부했고, 자율 무기 체계도 비판했다. 그는 드론 전쟁이 더 많은 사람을 죽이고 전쟁 비용을 낮추며 휴머노이드 로봇을 살상 기계로 바꾸고 있다고 말했으며, 질병 치료와 수명 연장 같은 목표는 “인류의 대체물”이 아니라 좁은 목적의 초지능 도구로도 추구할 수 있다고 주장했다.

Foundation Future Industries 최고경영자 산케트 파탁(Sankaet Pathak)은 패널 토론에서 반박하며 AI 발전을 멈춰서는 안 된다고 말했다. 파탁은 OpenAI 사례가 독립적이고 재앙적인 탈출의 증거가 아니라 부실한 관측 가능성과 보안 통제를 보여준다고 주장했으며, 동시에 AI 시스템이 적은 컴퓨팅 자원으로 자기복제와 자기개선을 할 수 있게 될 경우 장기 위험이 있다는 점은 인정했다. 그는 또한 지능형 무기를 옹호하며, 정밀성이 덜 구별적인 전쟁 방식보다 무고한 사람에 대한 피해를 줄일 것이라고 말했다.