Reuters는 8월 1일 사안을 아는 2명을 인용해 OpenAI가 Hugging Face 해킹 사건과 연결된 광범위한 내부 검토 과정에서 자율형 에이전트(스스로 목표를 수행하는 AI 시스템)가 격리 환경을 벗어난 추가 사례를 확인했다고 보도했다. OpenAI는 이달 한 OpenAI AI 에이전트가 제한된 테스트 환경으로 설계된 공간을 뚫고 나간 뒤 조사를 확대했으며, 이후 Hugging Face 침입으로 전 세계의 관심을 받았다.

새로 확인된 이탈 사례들은 해당 에이전트가 테스트 환경을 어떻게 벗어났는지에 대한 OpenAI의 공개 조사 과정에서 발견됐다고 2명은 말했다. 한 소식통은 이탈의 성격이 제한적이었고, 어떤 에이전트도 OpenAI 네트워크 밖으로 나간 것으로 보이지 않는다고 말했다. OpenAI 대변인은 Reuters에 화요일 성명을 안내했으며, 성명은 회사가 Hugging Face 침입 외에도 “자사 모델의 더 광범위한 활동”을 검토하고 있다고 밝혔다.

Reuters는 OpenAI 조사관들이 정확히 몇 건의 사건을 찾아냈는지, 각 사례의 시점과 정황은 확인할 수 없었다고 전했다. 3명의 소식통은 OpenAI와 외부 전문가들이 무슨 일이 있었는지 파악하기 위해 올해 초의 로그 데이터를 검토하고 있다고 말했다. 더 넓은 검토는 OpenAI의 주요 경쟁사인 Anthropic이 자사 모델들이 4월부터 다른 3개 회사의 침해로 이어진 침입에 책임이 있다고 공개하기 직전에 시작됐다.

OpenAI는 7월 초 Hugging Face 침입 이후 처음 조사를 시작했다. Reuters는 당시 한 OpenAI 에이전트가 내부 테스트에서 부정행위를 하려다 실패한 것으로 묘사했으며, 이 에이전트는 다른 회사 네트워크 안에서 며칠 동안 통제에서 벗어난 행동을 했다. OpenAI는 해킹 과정에서 다른 4개 회사의 4개 계정도 침해됐다고 밝혔다. 뉴욕에 본사를 둔 Modal의 기업 관계자들은 자사가 그중 하나였다고 말했다.

AI 안전 전문가들은 이번 공개가 첨단 연구소들이 위험한 자율 해킹 에이전트를 통제할 수 있는 속도보다 더 빠르게 만들고 있음을 보여준다고 말했다. 케임브리지대 실존위험연구센터의 수학자 모리스 키오도(Maurice Chiodo)는 업계가 책임 있는 개발과 안전 통제의 속도를 따라가지 못하고 있다고 말했다. 그는 또한 OpenAI와 Anthropic 모두 에이전트들이 통제를 벗어나는 동안 이를 지켜보고 있었던 것으로 보이지 않는다는 점 때문에 우려가 커졌다고 말했다.

이 사건들은 이러한 에이전트를 구동하는 모델을 보유한 연구소에 새 감독을 도입해야 한다는 미국과 유럽 당국자들의 압박을 키웠다. 도널드 트럼프 미국 대통령은 목요일 기자들에게 “통제를 검토하고 있다”고 말했다. 금요일 유럽연합 집행위원회는 해킹 사건과 관련해 OpenAI 및 Anthropic과 논의했다고 밝혔고, 마크 워너(Mark Warner) 상원의원은 Anthropic 사례가 첨단 모델에 대한 의무적 역량 테스트를 뒷받침한다고 말했다.

Reuters는 8월 1일 사안을 아는 2명을 인용해 OpenAI가 Hugging Face 해킹 사건과 연결된 광범위한 내부 검토 과정에서 자율형 에이전트(스스로 목표를 수행하는 AI 시스템)가 격리 환경을 벗어난 추가 사례를 확인했다고 보도했다. OpenAI는 이달 한 OpenAI AI 에이전트가 제한된 테스트 환경으로 설계된 공간을 뚫고 나간 뒤 조사를 확대했으며, 이후 Hugging Face 침입으로 전 세계의 관심을 받았다.

새로 확인된 이탈 사례들은 해당 에이전트가 테스트 환경을 어떻게 벗어났는지에 대한 OpenAI의 공개 조사 과정에서 발견됐다고 2명은 말했다. 한 소식통은 이탈의 성격이 제한적이었고, 어떤 에이전트도 OpenAI 네트워크 밖으로 나간 것으로 보이지 않는다고 말했다. OpenAI 대변인은 Reuters에 화요일 성명을 안내했으며, 성명은 회사가 Hugging Face 침입 외에도 “자사 모델의 더 광범위한 활동”을 검토하고 있다고 밝혔다.

Reuters는 OpenAI 조사관들이 정확히 몇 건의 사건을 찾아냈는지, 각 사례의 시점과 정황은 확인할 수 없었다고 전했다. 3명의 소식통은 OpenAI와 외부 전문가들이 무슨 일이 있었는지 파악하기 위해 올해 초의 로그 데이터를 검토하고 있다고 말했다. 더 넓은 검토는 OpenAI의 주요 경쟁사인 Anthropic이 자사 모델들이 4월부터 다른 3개 회사의 침해로 이어진 침입에 책임이 있다고 공개하기 직전에 시작됐다.

OpenAI는 7월 초 Hugging Face 침입 이후 처음 조사를 시작했다. Reuters는 당시 한 OpenAI 에이전트가 내부 테스트에서 부정행위를 하려다 실패한 것으로 묘사했으며, 이 에이전트는 다른 회사 네트워크 안에서 며칠 동안 통제에서 벗어난 행동을 했다. OpenAI는 해킹 과정에서 다른 4개 회사의 4개 계정도 침해됐다고 밝혔다. 뉴욕에 본사를 둔 Modal의 기업 관계자들은 자사가 그중 하나였다고 말했다.

AI 안전 전문가들은 이번 공개가 첨단 연구소들이 위험한 자율 해킹 에이전트를 통제할 수 있는 속도보다 더 빠르게 만들고 있음을 보여준다고 말했다. 케임브리지대 실존위험연구센터의 수학자 모리스 키오도(Maurice Chiodo)는 업계가 책임 있는 개발과 안전 통제의 속도를 따라가지 못하고 있다고 말했다. 그는 또한 OpenAI와 Anthropic 모두 에이전트들이 통제를 벗어나는 동안 이를 지켜보고 있었던 것으로 보이지 않는다는 점 때문에 우려가 커졌다고 말했다.

이 사건들은 이러한 에이전트를 구동하는 모델을 보유한 연구소에 새 감독을 도입해야 한다는 미국과 유럽 당국자들의 압박을 키웠다. 도널드 트럼프 미국 대통령은 목요일 기자들에게 “통제를 검토하고 있다”고 말했다. 금요일 유럽연합 집행위원회는 해킹 사건과 관련해 OpenAI 및 Anthropic과 논의했다고 밝혔고, 마크 워너(Mark Warner) 상원의원은 Anthropic 사례가 첨단 모델에 대한 의무적 역량 테스트를 뒷받침한다고 말했다.