유럽연합은 EU AI Act의 투명성 조항이 시행되는 August 2nd부터 AI 워터마킹과 딥페이크 표시를 의무화한다. EU에 사는 사람은 AI와 직접 상호작용할 때 그 사실을 고지받아야 하며, 제공자는 AI가 생성하거나 조작한 콘텐츠를 탐지하는 데 도움이 되는 기계 판독 가능 표식을 추가해야 한다.

챗봇을 쓰는 웹사이트, 고객서비스 부서, 정부기관은 사용자가 실제 사람이 아니라 AI와 대화하고 있음을 알려야 한다. 다만 “ask our AI chatbot for more information” 같은 안내처럼 그 사실이 이미 명확한 경우는 예외다. 해당 정보는 적절한 시점에 나타나야 하고, 분명하게 표시되며 이해하기 쉬워야 한다. EU에서 운영되는 신규 챗봇은 August 2nd부터 규정을 따라야 하며, 기존 챗봇은 December 2026까지 적용 유예를 받는다.

자동화 시스템이 만들거나 편집한 이미지, 영상, 소리, 텍스트에는 기술적 추적 가능 표식(기계가 읽을 수 있는 출처 신호)이 포함돼야 한다. 이 표식은 임베디드 데이터, 출처 정보, 검증 도구가 접근할 수 있는 기술적 워터마크일 수 있으며, 파일이 잘리거나 다른 방식으로 바뀌어도 유지돼야 한다. 대부분의 AI 생성 사진, 영상, 기사에는 일반 사용자를 위한 눈에 보이는 “generated by AI” 라벨이 필요하지 않다고 원문은 밝혔다.

딥페이크(AI가 만들거나 바꾼 사실적인 미디어)는 개인적, 예술적, 풍자적, 허구적 사용에 대한 양보 조항이 있지만, AI가 생성하거나 조작했다는 사실을 명확히 표시해야 한다. 정치인, 기업인 또는 다른 식별 가능한 인물이 정보, 조언, 논평을 제공하는 것처럼 보이는 영상은 시청자가 AI 조작을 이해할 수 있게 해야 한다. 2024 Presidential election에서 미국인에게 투표하지 말라고 촉구한 미국 조 바이든 음성 메시지 같은 오디오 딥페이크는 “plain and simple natural language”로 된 고지로 시작해야 한다.

얼굴인식을 포함한 감정인식과 생체정보 분류 시스템은 August 2nd부터 해당 시스템에 노출되는 사람들에게 이를 알려야 한다. 채용 도구, 신용평가, 교육, 법집행, 국경통제, 핵심 인프라를 다루는 세 번째 적용 단계는 December 2nd, 2027에 시작된다. 의료기기, 장난감, 엘리베이터 같은 제품의 안전 구성요소는 August 2nd, 2028부터 규칙 적용 대상이 되며, 과징금은 최대 €35 million 또는 전 세계 매출의 seven percent에 이를 수 있다.

유럽연합은 EU AI Act의 투명성 조항이 시행되는 August 2nd부터 AI 워터마킹과 딥페이크 표시를 의무화한다. EU에 사는 사람은 AI와 직접 상호작용할 때 그 사실을 고지받아야 하며, 제공자는 AI가 생성하거나 조작한 콘텐츠를 탐지하는 데 도움이 되는 기계 판독 가능 표식을 추가해야 한다.

챗봇을 쓰는 웹사이트, 고객서비스 부서, 정부기관은 사용자가 실제 사람이 아니라 AI와 대화하고 있음을 알려야 한다. 다만 “ask our AI chatbot for more information” 같은 안내처럼 그 사실이 이미 명확한 경우는 예외다. 해당 정보는 적절한 시점에 나타나야 하고, 분명하게 표시되며 이해하기 쉬워야 한다. EU에서 운영되는 신규 챗봇은 August 2nd부터 규정을 따라야 하며, 기존 챗봇은 December 2026까지 적용 유예를 받는다.

자동화 시스템이 만들거나 편집한 이미지, 영상, 소리, 텍스트에는 기술적 추적 가능 표식(기계가 읽을 수 있는 출처 신호)이 포함돼야 한다. 이 표식은 임베디드 데이터, 출처 정보, 검증 도구가 접근할 수 있는 기술적 워터마크일 수 있으며, 파일이 잘리거나 다른 방식으로 바뀌어도 유지돼야 한다. 대부분의 AI 생성 사진, 영상, 기사에는 일반 사용자를 위한 눈에 보이는 “generated by AI” 라벨이 필요하지 않다고 원문은 밝혔다.

딥페이크(AI가 만들거나 바꾼 사실적인 미디어)는 개인적, 예술적, 풍자적, 허구적 사용에 대한 양보 조항이 있지만, AI가 생성하거나 조작했다는 사실을 명확히 표시해야 한다. 정치인, 기업인 또는 다른 식별 가능한 인물이 정보, 조언, 논평을 제공하는 것처럼 보이는 영상은 시청자가 AI 조작을 이해할 수 있게 해야 한다. 2024 Presidential election에서 미국인에게 투표하지 말라고 촉구한 미국 조 바이든 음성 메시지 같은 오디오 딥페이크는 “plain and simple natural language”로 된 고지로 시작해야 한다.

얼굴인식을 포함한 감정인식과 생체정보 분류 시스템은 August 2nd부터 해당 시스템에 노출되는 사람들에게 이를 알려야 한다. 채용 도구, 신용평가, 교육, 법집행, 국경통제, 핵심 인프라를 다루는 세 번째 적용 단계는 December 2nd, 2027에 시작된다. 의료기기, 장난감, 엘리베이터 같은 제품의 안전 구성요소는 August 2nd, 2028부터 규칙 적용 대상이 되며, 과징금은 최대 €35 million 또는 전 세계 매출의 seven percent에 이를 수 있다.