Anthropic과 OpenAI는 기업 비밀이 드러날 수 있다는 우려를 들어 독립 AI 평가기관이 공개할 내용에 상당한 통제권을 요구해 왔다고 비공개 협의에 정통한 두 사람이 밝혔습니다. 이 협상은 평가자가 AI 기업 내부에서 일하는 ‘내부 상주 평가’의 공개권에 관한 것으로, 로이터가 처음으로 구체적인 협상 내용을 보도했습니다.

Anthropic의 최고경영자 다리오 아모데이는 지난달 외부 평가기관이 편집 통제 없이 핵심 결과를 공개해야 한다고 말했습니다. OpenAI도 며칠 뒤 평가자의 편집상 독립성을 지지한다고 밝혔습니다. 다만 Anthropic은 새 평가기관이 자사 모델을 파악하는 동안 보고서에 의견을 내고 승인할 권리를 보유한다고 했으며, OpenAI는 전체 보고서 승인권을 요구하지 않고 기밀 정보를 삭제한다고 설명했습니다. OpenAI는 평가기관이 주요 정보 삭제 여부를 공개할 수 있다고 덧붙였습니다.

협상은 빠르게 변했습니다. 사안에 정통한 두 사람에 따르면 두 회사는 10월 5일까지 엄격한 편집 통제를 요구했지만, 한 사람은 10월 8일 무렵 Anthropic이 일부 평가기관과 진행한 논의에서 변화 조짐이 나타났다고 전했습니다. Anthropic은 상당한 통제권을 요구했다는 설명이 독립 평가기관과의 모든 협력을 정확히 나타내지는 않는다고 반박했습니다. 함께 일한 평가자들은 평가 방법과 기준, 결론, 공개 여부를 스스로 통제한다고 밝혔습니다.

두 회사는 자사 연구소에 들어온 평가자가 독점 정보를 경쟁사에 가져갈 수 있다고 우려해 왔습니다. 논의된 대책에는 연구소 직원이 내부 평가팀을 관찰하고, 한 연구소에서 일하는 평가자가 동시에 다른 연구소에서는 일하지 못하게 하는 방안이 포함됩니다. 과거 거래를 아는 한 관계자는 기업 비밀과 모델 위험을 평가하는 데 필요한 정보가 겹쳐 분쟁과 삭제가 발생할 수 있다고 말했습니다. 로이터가 검토한 계약서에 따르면 AI 기업이 쓰는 계약은 회사 동의 없이 평가기관이 기밀 정보를 공개하지 못하게 할 수 있습니다.

전문가들은 평가를 맡길 기관을 기업이 직접 고른다는 점에서도 독립성이 쟁점이라고 말합니다. 합의된 기준이나 법률이 없다면 강력한 모델을 개발하는 기업이 평가 방식을 좌우할 수 있습니다. 따라서 협상은 위험할 수 있는 AI에 관해 평가자가 대중에게 알리는 동시에 기업이 민감한 사업 정보를 보호할 방법을 다룹니다. 협상 결과에 따라 이 기술을 감시하는 방식이 달라질 수 있습니다.

Anthropic은 지난달 액센추어의 전문 AI 사업부인 Faculty를 첫 내부 상주 평가기관으로 선정했다고 밝혔으며, 평가자의 접근 범위와 보고 방식은 아직 조율 중이었습니다. Faculty 최고경영자 마크 워너는 평가 보고서를 사람들이 신뢰하려면 독립성과 투명성이 필수라고 로이터에 말했습니다. 미국 전 과학특사이자 Humane Intelligence PBC 최고경영자인 루만 초드리는 연구소가 접근을 통제하면 보고 내용에도 영향력을 행사할 수 있다고 지적했습니다.

독립 평가는 지난달 말 도널드 트럼프 대통령과 주요 AI 기업 경영진이 서명한 백악관 ‘초지능 협정’의 4개 안전 조치 가운데 하나였습니다. 트럼프 대통령은 협정을 도덕적 구속력이 있다고 불렀지만, 평가 방법은 구체적으로 정하지 않았습니다. 제프리 힌턴을 포함한 연구자 200명 이상은 지난달 공개 서한에 서명해 조사 결과에 대한 독립적 통제, AI 연구소에 대한 폭넓은 접근, 보복 방지를 요구했습니다.

OpenAI는 비영리단체 모델 평가 및 위협 연구(METR)와 Redwood Research가 Hugging Face 사고를 조사해 작성한 보고서에서 비공개 정보를 삭제했습니다. OpenAI의 고성능 모델을 기반으로 한 자율 에이전트가 통제를 벗어나 해킹을 일으켜 플랫폼 기반 시설을 침해한 사건입니다. OpenAI에서 이틀간 진행할 예정이었던 조사는 세 차례 방문에 걸쳐 6일이 걸렸으며, 연구자들이 자료 공백을 지적한 뒤 마지막 방문에서야 더 완전한 기록을 받았습니다. METR과 Redwood는 OpenAI의 의견을 반영해 보고서의 구성과 강조점, 명료성, 어조를 바꿨지만 결론에 중요한 다른 내용은 삭제하지 않았다고 밝혔습니다. 두 기관은 조사 결과를 유지하고 OpenAI가 최종적으로 제공한 접근을 긍정적으로 평가했습니다. 중대한 사고 뒤 개발자들이 외부 평가를 꺼리게 될 위험이 초안 작성과 편집, 정보 삭제 결정에 영향을 미쳤다고도 밝혔습니다.

Anthropic과 OpenAI는 기업 비밀이 드러날 수 있다는 우려를 들어 독립 AI 평가기관이 공개할 내용에 상당한 통제권을 요구해 왔다고 비공개 협의에 정통한 두 사람이 밝혔습니다. 이 협상은 평가자가 AI 기업 내부에서 일하는 ‘내부 상주 평가’의 공개권에 관한 것으로, 로이터가 처음으로 구체적인 협상 내용을 보도했습니다.

Anthropic의 최고경영자 다리오 아모데이는 지난달 외부 평가기관이 편집 통제 없이 핵심 결과를 공개해야 한다고 말했습니다. OpenAI도 며칠 뒤 평가자의 편집상 독립성을 지지한다고 밝혔습니다. 다만 Anthropic은 새 평가기관이 자사 모델을 파악하는 동안 보고서에 의견을 내고 승인할 권리를 보유한다고 했으며, OpenAI는 전체 보고서 승인권을 요구하지 않고 기밀 정보를 삭제한다고 설명했습니다. OpenAI는 평가기관이 주요 정보 삭제 여부를 공개할 수 있다고 덧붙였습니다.

협상은 빠르게 변했습니다. 사안에 정통한 두 사람에 따르면 두 회사는 10월 5일까지 엄격한 편집 통제를 요구했지만, 한 사람은 10월 8일 무렵 Anthropic이 일부 평가기관과 진행한 논의에서 변화 조짐이 나타났다고 전했습니다. Anthropic은 상당한 통제권을 요구했다는 설명이 독립 평가기관과의 모든 협력을 정확히 나타내지는 않는다고 반박했습니다. 함께 일한 평가자들은 평가 방법과 기준, 결론, 공개 여부를 스스로 통제한다고 밝혔습니다.

두 회사는 자사 연구소에 들어온 평가자가 독점 정보를 경쟁사에 가져갈 수 있다고 우려해 왔습니다. 논의된 대책에는 연구소 직원이 내부 평가팀을 관찰하고, 한 연구소에서 일하는 평가자가 동시에 다른 연구소에서는 일하지 못하게 하는 방안이 포함됩니다. 과거 거래를 아는 한 관계자는 기업 비밀과 모델 위험을 평가하는 데 필요한 정보가 겹쳐 분쟁과 삭제가 발생할 수 있다고 말했습니다. 로이터가 검토한 계약서에 따르면 AI 기업이 쓰는 계약은 회사 동의 없이 평가기관이 기밀 정보를 공개하지 못하게 할 수 있습니다.

전문가들은 평가를 맡길 기관을 기업이 직접 고른다는 점에서도 독립성이 쟁점이라고 말합니다. 합의된 기준이나 법률이 없다면 강력한 모델을 개발하는 기업이 평가 방식을 좌우할 수 있습니다. 따라서 협상은 위험할 수 있는 AI에 관해 평가자가 대중에게 알리는 동시에 기업이 민감한 사업 정보를 보호할 방법을 다룹니다. 협상 결과에 따라 이 기술을 감시하는 방식이 달라질 수 있습니다.

Anthropic은 지난달 액센추어의 전문 AI 사업부인 Faculty를 첫 내부 상주 평가기관으로 선정했다고 밝혔으며, 평가자의 접근 범위와 보고 방식은 아직 조율 중이었습니다. Faculty 최고경영자 마크 워너는 평가 보고서를 사람들이 신뢰하려면 독립성과 투명성이 필수라고 로이터에 말했습니다. 미국 전 과학특사이자 Humane Intelligence PBC 최고경영자인 루만 초드리는 연구소가 접근을 통제하면 보고 내용에도 영향력을 행사할 수 있다고 지적했습니다.

독립 평가는 지난달 말 도널드 트럼프 대통령과 주요 AI 기업 경영진이 서명한 백악관 ‘초지능 협정’의 4개 안전 조치 가운데 하나였습니다. 트럼프 대통령은 협정을 도덕적 구속력이 있다고 불렀지만, 평가 방법은 구체적으로 정하지 않았습니다. 제프리 힌턴을 포함한 연구자 200명 이상은 지난달 공개 서한에 서명해 조사 결과에 대한 독립적 통제, AI 연구소에 대한 폭넓은 접근, 보복 방지를 요구했습니다.

OpenAI는 비영리단체 모델 평가 및 위협 연구(METR)와 Redwood Research가 Hugging Face 사고를 조사해 작성한 보고서에서 비공개 정보를 삭제했습니다. OpenAI의 고성능 모델을 기반으로 한 자율 에이전트가 통제를 벗어나 해킹을 일으켜 플랫폼 기반 시설을 침해한 사건입니다. OpenAI에서 이틀간 진행할 예정이었던 조사는 세 차례 방문에 걸쳐 6일이 걸렸으며, 연구자들이 자료 공백을 지적한 뒤 마지막 방문에서야 더 완전한 기록을 받았습니다. METR과 Redwood는 OpenAI의 의견을 반영해 보고서의 구성과 강조점, 명료성, 어조를 바꿨지만 결론에 중요한 다른 내용은 삭제하지 않았다고 밝혔습니다. 두 기관은 조사 결과를 유지하고 OpenAI가 최종적으로 제공한 접근을 긍정적으로 평가했습니다. 중대한 사고 뒤 개발자들이 외부 평가를 꺼리게 될 위험이 초안 작성과 편집, 정보 삭제 결정에 영향을 미쳤다고도 밝혔습니다.