OpenAI는 10월 5일, 향후 몇 주간 유럽연합 고객에게 생성되는 대상 ChatGPT 및 Codex 텍스트에 보이지 않는 워터마크를 추가한다고 밝혔습니다. 미국과 영국 사용자는 적용 대상이 아닙니다. OpenAI는 생성형 AI 제공자가 AI 생성 텍스트를 기계가 읽을 수 있는 방식으로 식별하도록 한 EU AI Act 요건을 충족하기 위한 조치라고 설명했습니다.

textGrain이라는 이 시스템은 단어 선택을 미세하게 바꿔 통계적 신호를 넣습니다. OpenAI에 따르면 탐지기는 이용자를 식별하거나 프롬프트와 대화를 공개하지 않고도 글에 해당 신호가 있는지 확인할 수 있습니다. 탐지기는 출시 시점에 일반에 공개되지 않으며, 승인된 연구자와 전문가 단체가 접근을 신청할 수 있습니다. OpenAI는 짧거나 형식이 제한된 글일수록 탐지하기 어렵고, 편집하면 워터마크가 약해질 수 있다고 밝혔습니다. 워터마크를 놓치는 경우와 오탐도 위험으로 제시했습니다.

테크레이더의 AI 담당 수석 편집자 그레이엄은 이 방식이 사용자가 받는 문구에 영향을 줄 수 있다고 비판하고, 편집으로 약화될 수 있는 워터마크가 얼마나 유용한지 의문을 제기했습니다. 그는 탐지기가 일반에 공개되지 않았다는 점을 지적하며, 이 시스템이 주로 규정 준수 수단으로 기능할 수 있다고 주장했습니다. 기사에 따르면 앤트로픽은 EU AI Act를 준수하기로 결정한 뒤 워터마크 기능을 전 세계에 적용했지만, OpenAI는 EU 고객으로 적용 범위를 한정하고 있습니다.

OpenAI는 10월 5일, 향후 몇 주간 유럽연합 고객에게 생성되는 대상 ChatGPT 및 Codex 텍스트에 보이지 않는 워터마크를 추가한다고 밝혔습니다. 미국과 영국 사용자는 적용 대상이 아닙니다. OpenAI는 생성형 AI 제공자가 AI 생성 텍스트를 기계가 읽을 수 있는 방식으로 식별하도록 한 EU AI Act 요건을 충족하기 위한 조치라고 설명했습니다.

textGrain이라는 이 시스템은 단어 선택을 미세하게 바꿔 통계적 신호를 넣습니다. OpenAI에 따르면 탐지기는 이용자를 식별하거나 프롬프트와 대화를 공개하지 않고도 글에 해당 신호가 있는지 확인할 수 있습니다. 탐지기는 출시 시점에 일반에 공개되지 않으며, 승인된 연구자와 전문가 단체가 접근을 신청할 수 있습니다. OpenAI는 짧거나 형식이 제한된 글일수록 탐지하기 어렵고, 편집하면 워터마크가 약해질 수 있다고 밝혔습니다. 워터마크를 놓치는 경우와 오탐도 위험으로 제시했습니다.

테크레이더의 AI 담당 수석 편집자 그레이엄은 이 방식이 사용자가 받는 문구에 영향을 줄 수 있다고 비판하고, 편집으로 약화될 수 있는 워터마크가 얼마나 유용한지 의문을 제기했습니다. 그는 탐지기가 일반에 공개되지 않았다는 점을 지적하며, 이 시스템이 주로 규정 준수 수단으로 기능할 수 있다고 주장했습니다. 기사에 따르면 앤트로픽은 EU AI Act를 준수하기로 결정한 뒤 워터마크 기능을 전 세계에 적용했지만, OpenAI는 EU 고객으로 적용 범위를 한정하고 있습니다.