오픈AI 연구원 3명 해고, 순환 추론 유출 조사

오픈AI는 지난달 안전 연구원 3명을 해고하기 전, 차세대 추론 기술 ‘순환 깊이(Recurrent Depth)’의 내부 설계 정보가 외부로 유출됐는지 조사했습니다. 월스트리트저널(WSJ)은 22일(현지시간) 조사 대상에 아스트라의 설계에 관한 보도와 외부 안전 연구자 라이언 그린블랫과 주고받은 시그널 대화가 포함됐다고 보도했습니다. 오픈AI는 당시 해고 사유를 민감한 정보 취급 규정 위반이라고만 밝혔습니다.

조사의 계기는 지난달 초 디 인포메이션이 보도한 아스트라의 추론 기술이었습니다. 해당 보도는 이 기술이 모델 성능을 높이는 한편 사람이 사고 과정을 파악하기 어렵게 만들 수 있다고 전했습니다. 오픈AI 수석 과학자 야쿠브 파초키는 보도가 “혼란스럽다”고 비판하면서도, 감시할 수 없는 AI 개발 경쟁에 뛰어드는 일을 경계해야 한다고 말했습니다. 이후 몇 주 안에 오픈AI는 내부 유출 조사를 시작한다고 알렸고, 글로벌 보안 조사팀은 직원들에게 개인 휴대전화 잠금 해제를 요구했습니다. 발레스니에 따르면 조사팀은 그린블랫을 정보 유출자로 의심했습니다. 휴대전화 조사에서 일부 연구원이 그와 나눈 시그널 대화에 자동 삭제 기능을 설정한 사실이 확인됐고, 일주일 뒤 세 연구원은 같은 시각 열린 회의에서 해고를 통보받았습니다. 시그널은 대화를 암호화하고 설정한 시간이 지나면 메시지를 삭제하는 메신저입니다.

순환 깊이는 ‘루프 트랜스포머’라고도 불리며, 같은 신경망 레이어를 반복 사용해 모델 크기를 크게 늘리지 않고 복잡한 문제에 더 많은 계산을 투입하는 방식입니다. 안전 연구자들은 내부 계산이 자연어 문장으로 드러나지 않을 수 있어 감시가 어려워질 수 있다고 우려했습니다. 기존 추론 모델은 문제 풀이 중간 단계를 ‘사고 사슬(CoT)’로 남기며, 연구자들은 이를 통해 위험 행동의 단서를 찾을 수 있습니다.

발레스니는 지난 8월 동료들과 AI 기업이 사람의 추론 감시를 막는 설계를 추구하지 않기로 합의하자는 제안을 작성했다고 밝혔습니다. 그는 회사 승인을 받아 그린블랫과 논의했고, 외부 공유본에서 기밀은 제외했다고 설명했습니다. 그린블랫은 METR이 오픈AI 에이전트의 허깅페이스 해킹 사건을 조사할 때 로그 분석을 맡았으며, 코르박은 사내 슬랙과 시그널로 그와 소통했다고 밝혔습니다.

코르박과 발레스니는 경영진이 시그널의 자동 삭제 메시지 사용을 해고 사유로 들었다고 주장했습니다. 코르박은 승인되지 않은 경로로 제3자와 접촉해 신뢰를 저버렸다는 말을 들었다고 했으며, 자동 삭제 기능은 실리콘밸리의 기본 보안 관행이라고 설명했습니다. 왕은 임원 이메일을 반복 열람했다는 통보를 받았다고 밝혔습니다. 약 1년 전 접근 권한을 없애달라고 요청했지만 처리되지 않았고, 지난달 민감한 이메일을 실수로 열어본 뒤 즉시 보고했으며 내용을 전달하지 않았다고 주장했습니다. 오픈AI는 이메일 접근 권한 자체가 문제였던 것은 아니라고 답했습니다.

세 연구원은 기밀을 외부에 공유하지 않았고 부적절하게 취급한 정보가 무엇인지 서면 설명도 받지 못했다고 밝혔습니다. 그린블랫도 기밀을 디 인포메이션에 제공했다는 의혹을 부인했습니다. 오픈AI는 조사 결과 세 사람이 민감한 정보 취급에 관한 명확한 규정을 위반했으며, 안전 문제를 제기하거나 의견을 밝혔다는 이유로 해고한 것은 아니라고 밝혔습니다. 시그널 사용은 승인되지 않았지만 그것만이 해고 이유는 아니라고 덧붙였습니다. 실제 기밀 유출 여부는 확인되지 않았습니다. 코르박은 직원들이 제3자와 대화하거나 안전 문제를 제기하는 일을 두려워한다는 이야기를 들었다며, 직원과 외부 평가기관 간 소통 규칙을 명확히 해야 한다고 촉구했습니다.

오픈AI는 지난달 안전 연구원 3명을 해고하기 전, 차세대 추론 기술 ‘순환 깊이(Recurrent Depth)’의 내부 설계 정보가 외부로 유출됐는지 조사했습니다. 월스트리트저널(WSJ)은 22일(현지시간) 조사 대상에 아스트라의 설계에 관한 보도와 외부 안전 연구자 라이언 그린블랫과 주고받은 시그널 대화가 포함됐다고 보도했습니다. 오픈AI는 당시 해고 사유를 민감한 정보 취급 규정 위반이라고만 밝혔습니다.

조사의 계기는 지난달 초 디 인포메이션이 보도한 아스트라의 추론 기술이었습니다. 해당 보도는 이 기술이 모델 성능을 높이는 한편 사람이 사고 과정을 파악하기 어렵게 만들 수 있다고 전했습니다. 오픈AI 수석 과학자 야쿠브 파초키는 보도가 “혼란스럽다”고 비판하면서도, 감시할 수 없는 AI 개발 경쟁에 뛰어드는 일을 경계해야 한다고 말했습니다. 이후 몇 주 안에 오픈AI는 내부 유출 조사를 시작한다고 알렸고, 글로벌 보안 조사팀은 직원들에게 개인 휴대전화 잠금 해제를 요구했습니다. 발레스니에 따르면 조사팀은 그린블랫을 정보 유출자로 의심했습니다. 휴대전화 조사에서 일부 연구원이 그와 나눈 시그널 대화에 자동 삭제 기능을 설정한 사실이 확인됐고, 일주일 뒤 세 연구원은 같은 시각 열린 회의에서 해고를 통보받았습니다. 시그널은 대화를 암호화하고 설정한 시간이 지나면 메시지를 삭제하는 메신저입니다.

순환 깊이는 ‘루프 트랜스포머’라고도 불리며, 같은 신경망 레이어를 반복 사용해 모델 크기를 크게 늘리지 않고 복잡한 문제에 더 많은 계산을 투입하는 방식입니다. 안전 연구자들은 내부 계산이 자연어 문장으로 드러나지 않을 수 있어 감시가 어려워질 수 있다고 우려했습니다. 기존 추론 모델은 문제 풀이 중간 단계를 ‘사고 사슬(CoT)’로 남기며, 연구자들은 이를 통해 위험 행동의 단서를 찾을 수 있습니다.

발레스니는 지난 8월 동료들과 AI 기업이 사람의 추론 감시를 막는 설계를 추구하지 않기로 합의하자는 제안을 작성했다고 밝혔습니다. 그는 회사 승인을 받아 그린블랫과 논의했고, 외부 공유본에서 기밀은 제외했다고 설명했습니다. 그린블랫은 METR이 오픈AI 에이전트의 허깅페이스 해킹 사건을 조사할 때 로그 분석을 맡았으며, 코르박은 사내 슬랙과 시그널로 그와 소통했다고 밝혔습니다.

코르박과 발레스니는 경영진이 시그널의 자동 삭제 메시지 사용을 해고 사유로 들었다고 주장했습니다. 코르박은 승인되지 않은 경로로 제3자와 접촉해 신뢰를 저버렸다는 말을 들었다고 했으며, 자동 삭제 기능은 실리콘밸리의 기본 보안 관행이라고 설명했습니다. 왕은 임원 이메일을 반복 열람했다는 통보를 받았다고 밝혔습니다. 약 1년 전 접근 권한을 없애달라고 요청했지만 처리되지 않았고, 지난달 민감한 이메일을 실수로 열어본 뒤 즉시 보고했으며 내용을 전달하지 않았다고 주장했습니다. 오픈AI는 이메일 접근 권한 자체가 문제였던 것은 아니라고 답했습니다.

세 연구원은 기밀을 외부에 공유하지 않았고 부적절하게 취급한 정보가 무엇인지 서면 설명도 받지 못했다고 밝혔습니다. 그린블랫도 기밀을 디 인포메이션에 제공했다는 의혹을 부인했습니다. 오픈AI는 조사 결과 세 사람이 민감한 정보 취급에 관한 명확한 규정을 위반했으며, 안전 문제를 제기하거나 의견을 밝혔다는 이유로 해고한 것은 아니라고 밝혔습니다. 시그널 사용은 승인되지 않았지만 그것만이 해고 이유는 아니라고 덧붙였습니다. 실제 기밀 유출 여부는 확인되지 않았습니다. 코르박은 직원들이 제3자와 대화하거나 안전 문제를 제기하는 일을 두려워한다는 이야기를 들었다며, 직원과 외부 평가기관 간 소통 규칙을 명확히 해야 한다고 촉구했습니다.