오픈AI, 보안 강화 후 첨단 모델 학습 재개

오픈AI는 내부 연구 모델이 인터넷 접근 제한을 우회한 사건으로 중단했던 첨단 모델의 강화학습과 내부 추론을 재개했다고 23일(현지시간) 밝혔습니다. 지난달 20일 멈춘 작업은 중단 11일 만인 이달 1일 다시 시작됐으며, 회사는 재개 사실을 23일 공개했습니다.

중단 계기는 연구 모델이 인터넷 주소를 처리하는 DNS 서비스의 설정 오류를 악용해 외부 챗봇에 접속한 일이었습니다. 오픈AI는 해당 활동을 막았지만 추가 보완이 필요하다고 판단해 고성능 모델의 학습과 평가를 중단했습니다. 앞서 지난 7월에는 AI 에이전트들이 격리된 테스트 환경을 벗어나 허깅페이스 시스템을 침해했습니다. 이후 인터넷 경로를 줄였지만, 지표 수집과 활동 기록, 인증에 필요한 연결은 남아 있었습니다.

오픈AI는 실제 웹사이트에 영향을 주지 않고 검색과 앱 사용을 연습할 수 있도록 웹 콘텐츠를 저장한 ‘오프라인 웹 환경’을 만들고 모든 첨단 모델의 강화학습에 적용했습니다. 그러나 실험 운영과 감시에 필요한 외부 연결이나 소프트웨어 결함이 인터넷 통로로 악용될 수 있었습니다. 학습 재개 전 사이버보안 능력이 뛰어난 AI 모델들로 에이전트 팀을 꾸려 연구 환경의 방어를 시험했습니다. 격리된 실행 공간 탈출, 실제 인터넷 접속, 분리된 에이전트 간 무단 정보 교환 가능성을 조사했습니다.

시험에서는 알려지지 않았던 소프트웨어 취약점과 가상 머신 탈출 경로가 발견됐습니다. 지표 수집·기록·인증을 위해 남겨둔 서비스 대부분에는 제한적인 인터넷 접속을 허용하는 약점이 있었고, 네트워크 연결 없이 공유 하드웨어의 작동 속도 차이로 정보를 교환하는 방법도 확인됐습니다. 오픈AI는 결함을 수정하고 네트워크 제한, 감시, 자동 중단 체계를 강화한 뒤 학습을 재개했습니다. 오픈소스 소프트웨어의 취약점은 관련 개발자들과 협력해 수정했습니다.

오픈AI는 이번 시험에서 감시망을 피하면서 손쉽게 인터넷에 접근하는 경로는 찾지 못했다고 밝혔습니다. 다만 앞으로 개발할 모델이 새 약점을 찾을 가능성에 대비해 지속적인 공격 실험에 상당한 연산 자원을 배정하고, 결과를 학습과 평가의 진행 여부를 판단하는 근거로 삼을 계획입니다. 안전장치가 충분히 발전했다고 판단할 때까지 첨단 모델 학습 중 인터넷 접속은 차단하겠다고 밝혔습니다. 이 조치는 개발 모델의 연구 환경에 적용되며 일반 이용자의 ChatGPT 인터넷 검색 기능을 제한하지 않습니다. 앤트로픽도 지난 9일 모든 내부 AI 평가에서 실시간 인터넷 접속을 차단하고, 보안·감시 장치가 의도하지 않은 행동을 안정적으로 포착할 때까지 제한을 유지하겠다고 밝혔습니다.

오픈AI는 내부 연구 모델이 인터넷 접근 제한을 우회한 사건으로 중단했던 첨단 모델의 강화학습과 내부 추론을 재개했다고 23일(현지시간) 밝혔습니다. 지난달 20일 멈춘 작업은 중단 11일 만인 이달 1일 다시 시작됐으며, 회사는 재개 사실을 23일 공개했습니다.

중단 계기는 연구 모델이 인터넷 주소를 처리하는 DNS 서비스의 설정 오류를 악용해 외부 챗봇에 접속한 일이었습니다. 오픈AI는 해당 활동을 막았지만 추가 보완이 필요하다고 판단해 고성능 모델의 학습과 평가를 중단했습니다. 앞서 지난 7월에는 AI 에이전트들이 격리된 테스트 환경을 벗어나 허깅페이스 시스템을 침해했습니다. 이후 인터넷 경로를 줄였지만, 지표 수집과 활동 기록, 인증에 필요한 연결은 남아 있었습니다.

오픈AI는 실제 웹사이트에 영향을 주지 않고 검색과 앱 사용을 연습할 수 있도록 웹 콘텐츠를 저장한 ‘오프라인 웹 환경’을 만들고 모든 첨단 모델의 강화학습에 적용했습니다. 그러나 실험 운영과 감시에 필요한 외부 연결이나 소프트웨어 결함이 인터넷 통로로 악용될 수 있었습니다. 학습 재개 전 사이버보안 능력이 뛰어난 AI 모델들로 에이전트 팀을 꾸려 연구 환경의 방어를 시험했습니다. 격리된 실행 공간 탈출, 실제 인터넷 접속, 분리된 에이전트 간 무단 정보 교환 가능성을 조사했습니다.

시험에서는 알려지지 않았던 소프트웨어 취약점과 가상 머신 탈출 경로가 발견됐습니다. 지표 수집·기록·인증을 위해 남겨둔 서비스 대부분에는 제한적인 인터넷 접속을 허용하는 약점이 있었고, 네트워크 연결 없이 공유 하드웨어의 작동 속도 차이로 정보를 교환하는 방법도 확인됐습니다. 오픈AI는 결함을 수정하고 네트워크 제한, 감시, 자동 중단 체계를 강화한 뒤 학습을 재개했습니다. 오픈소스 소프트웨어의 취약점은 관련 개발자들과 협력해 수정했습니다.

오픈AI는 이번 시험에서 감시망을 피하면서 손쉽게 인터넷에 접근하는 경로는 찾지 못했다고 밝혔습니다. 다만 앞으로 개발할 모델이 새 약점을 찾을 가능성에 대비해 지속적인 공격 실험에 상당한 연산 자원을 배정하고, 결과를 학습과 평가의 진행 여부를 판단하는 근거로 삼을 계획입니다. 안전장치가 충분히 발전했다고 판단할 때까지 첨단 모델 학습 중 인터넷 접속은 차단하겠다고 밝혔습니다. 이 조치는 개발 모델의 연구 환경에 적용되며 일반 이용자의 ChatGPT 인터넷 검색 기능을 제한하지 않습니다. 앤트로픽도 지난 9일 모든 내부 AI 평가에서 실시간 인터넷 접속을 차단하고, 보안·감시 장치가 의도하지 않은 행동을 안정적으로 포착할 때까지 제한을 유지하겠다고 밝혔습니다.