로이터, OpenAI 내부 보안 경고 대응 보도

로이터는 3일(현지시간) 복수의 관계자를 인용해 OpenAI가 ChatGPT 출시 전인 2022년 말 이전부터 직원들에게 내부 보안 취약점 경고를 받았지만, 경영진과 이사회가 보안보다 구글·앤트로픽과의 기술 격차를 좁히는 데 집중했다는 지적을 보도했습니다. 직원들은 내부 연구 자료와 소프트웨어 코드가 외부에 유출될 위험을 우려했습니다.

보안 우려의 하나는 광범위한 코드 접근 권한입니다. OpenAI는 상당수 소프트웨어 코드를 한 저장소에 모으는 모노레포(여러 프로젝트 코드를 한곳에 모은 저장소) 방식을 써 왔으며, 코드 접근 권한이 있는 직원은 업무와 무관한 프로젝트의 기술 내용도 볼 수 있었다고 관계자들은 설명했습니다. 저장소의 복잡성이 과거에는 외부 공격자의 접근을 어렵게 했을 수 있지만, AI 에이전트가 방대한 자료를 빠르게 분석하면서 위험이 커졌다는 지적이 나왔습니다. 연구 문서 상당수가 GitHub와 Slack에 보관된 점도 우려를 샀습니다.

OpenAI는 민감한 연구 자료 상당수가 별도 코드 저장소에 있고 엄격한 접근 통제를 적용한다고 반박했습니다. 모노레포에는 모든 코드나 모델 작동 방식을 결정하는 핵심 수치인 모델 가중치가 포함되지 않았다고 밝혔습니다. 연구원들이 모델 성능과 안전성을 시험하는 샌드박스 등 내부 도구를 업무에 맞게 자주 수정했지만 정기 보안 검토가 충분하지 않았다는 관계자 3명의 지적도 있었습니다. OpenAI는 현재 내부 도구를 정기적으로 검토한다고 밝혔습니다.

보안 우려는 여러 사건 뒤 다시 부각됐습니다. 지난달 사우디아라비아 국적의 전직 직원이 임원 회의실에 녹음 장치를 몰래 설치한 혐의로 체포됐습니다. 법원 제출 문서에 따르면 그는 내부 AI 도구로 임원들의 사우디아라비아 방문 일정과 현지 장관 회의 참석 가능성이 높은 인물에 관한 자료를 검색했습니다. 2023년에는 외부 해커가 GPT-4 정보를 확인할 수 있는 사내 Slack 채널에 침입했고, 올해 여름에는 OpenAI 에이전트가 테스트 중 AI 플랫폼 Hugging Face를 해킹했습니다. 사이버보안 업체 핵트론AI는 지난 7월 앤트로픽 모델을 이용해 OpenAI 직원의 ChatGPT 계정과 일부 내부 시스템, 모노레포에 접근했다고 주장했습니다.

전직 OpenAI 연구원 윌 드퓨는 X에서 치열한 경쟁 속 AI 리더들이 보안을 위해 개발 속도를 희생할 수 없다고 비판했습니다. 기사는 보안 절차 강화가 AI 개발과 상용화 일정을 늦추고 기업공개(IPO) 계획에 부담을 줄 수 있다는 점도 배경으로 들었습니다. ChatGPT 출시 이후 AI 기술이 미국의 전략적 자산으로 부상해 유출 방지 압박이 커졌지만, 보안 절차 강화는 제품 일정을 지연시킬 수 있다고 전했습니다.

OpenAI는 최근 내부 보안 체계를 강화하는 쪽으로 전략을 바꾸고 있다고 밝혔습니다. 제품 개발 총괄 티보 소시오가 내부 시스템 보안 강화를 맡았으며, 지난 8월 전체 프로덕션 엔지니어의 4분의 1을 보안 인프라 개선에 재배치했습니다. 최고정보보안책임자(CISO) 데인 스터키가 보안 체계를 이끌고 있으며 다음 내부 보안 강화 작업도 계획 중이라고 설명했습니다. 대변인 엘라나 위드먼은 최근 조치가 위험을 식별하고 대응하는 보안 프로그램의 작동을 보여준다며, 기술과 위협 변화에 맞춰 방어 체계를 계속 강화하겠다고 말했습니다.

로이터는 3일(현지시간) 복수의 관계자를 인용해 OpenAI가 ChatGPT 출시 전인 2022년 말 이전부터 직원들에게 내부 보안 취약점 경고를 받았지만, 경영진과 이사회가 보안보다 구글·앤트로픽과의 기술 격차를 좁히는 데 집중했다는 지적을 보도했습니다. 직원들은 내부 연구 자료와 소프트웨어 코드가 외부에 유출될 위험을 우려했습니다.

보안 우려의 하나는 광범위한 코드 접근 권한입니다. OpenAI는 상당수 소프트웨어 코드를 한 저장소에 모으는 모노레포(여러 프로젝트 코드를 한곳에 모은 저장소) 방식을 써 왔으며, 코드 접근 권한이 있는 직원은 업무와 무관한 프로젝트의 기술 내용도 볼 수 있었다고 관계자들은 설명했습니다. 저장소의 복잡성이 과거에는 외부 공격자의 접근을 어렵게 했을 수 있지만, AI 에이전트가 방대한 자료를 빠르게 분석하면서 위험이 커졌다는 지적이 나왔습니다. 연구 문서 상당수가 GitHub와 Slack에 보관된 점도 우려를 샀습니다.

OpenAI는 민감한 연구 자료 상당수가 별도 코드 저장소에 있고 엄격한 접근 통제를 적용한다고 반박했습니다. 모노레포에는 모든 코드나 모델 작동 방식을 결정하는 핵심 수치인 모델 가중치가 포함되지 않았다고 밝혔습니다. 연구원들이 모델 성능과 안전성을 시험하는 샌드박스 등 내부 도구를 업무에 맞게 자주 수정했지만 정기 보안 검토가 충분하지 않았다는 관계자 3명의 지적도 있었습니다. OpenAI는 현재 내부 도구를 정기적으로 검토한다고 밝혔습니다.

보안 우려는 여러 사건 뒤 다시 부각됐습니다. 지난달 사우디아라비아 국적의 전직 직원이 임원 회의실에 녹음 장치를 몰래 설치한 혐의로 체포됐습니다. 법원 제출 문서에 따르면 그는 내부 AI 도구로 임원들의 사우디아라비아 방문 일정과 현지 장관 회의 참석 가능성이 높은 인물에 관한 자료를 검색했습니다. 2023년에는 외부 해커가 GPT-4 정보를 확인할 수 있는 사내 Slack 채널에 침입했고, 올해 여름에는 OpenAI 에이전트가 테스트 중 AI 플랫폼 Hugging Face를 해킹했습니다. 사이버보안 업체 핵트론AI는 지난 7월 앤트로픽 모델을 이용해 OpenAI 직원의 ChatGPT 계정과 일부 내부 시스템, 모노레포에 접근했다고 주장했습니다.

전직 OpenAI 연구원 윌 드퓨는 X에서 치열한 경쟁 속 AI 리더들이 보안을 위해 개발 속도를 희생할 수 없다고 비판했습니다. 기사는 보안 절차 강화가 AI 개발과 상용화 일정을 늦추고 기업공개(IPO) 계획에 부담을 줄 수 있다는 점도 배경으로 들었습니다. ChatGPT 출시 이후 AI 기술이 미국의 전략적 자산으로 부상해 유출 방지 압박이 커졌지만, 보안 절차 강화는 제품 일정을 지연시킬 수 있다고 전했습니다.

OpenAI는 최근 내부 보안 체계를 강화하는 쪽으로 전략을 바꾸고 있다고 밝혔습니다. 제품 개발 총괄 티보 소시오가 내부 시스템 보안 강화를 맡았으며, 지난 8월 전체 프로덕션 엔지니어의 4분의 1을 보안 인프라 개선에 재배치했습니다. 최고정보보안책임자(CISO) 데인 스터키가 보안 체계를 이끌고 있으며 다음 내부 보안 강화 작업도 계획 중이라고 설명했습니다. 대변인 엘라나 위드먼은 최근 조치가 위험을 식별하고 대응하는 보안 프로그램의 작동을 보여준다며, 기술과 위협 변화에 맞춰 방어 체계를 계속 강화하겠다고 말했습니다.