8월 2일부터 유럽연합(EU)에서 AI 시스템을 만들거나 사용하는 기업은 실제처럼 보이지만 기계가 만든 콘텐츠에 표시를 해야 한다. AI Act의 투명성 규정이 집행 단계에 들어가면서, 적용 대상은 EU 전역의 제공자와 배포자이며 딥페이크, 합성 미디어, 기계 생성 텍스트, 챗봇 상호작용까지 포함한다.

제공자, 즉 생성형 시스템을 만드는 기업은 이미지, 오디오, 비디오, 텍스트가 AI 생성 또는 조작 콘텐츠로 감지될 수 있도록 기계 판독 표시를 삽입해야 한다. 배포자, 즉 AI 시스템을 사용하는 개인이나 기업은 딥페이크를 만들거나 공익 사안에 관한 기계 작성 텍스트를 게시할 때 이를 명확하고 신속하게 공개해야 한다.

사실적인 딥페이크 표시 의무는 제작자가 속일 의도가 있었는지와 관계없이 적용된다. 또한 이용자가 챗봇과 상호작용을 시작하는 순간 이를 알려야 하며, 서비스 약관 문구로 대신할 수 없다. 명백히 비현실적이거나 환상적인 콘텐츠는 규정 밖에 있으며, AI 생성 텍스트도 실제 편집 책임을 가진 사람이 의미 있게 검토했다면 표시 의무를 피할 수 있다.

예술적·풍자적 콘텐츠도 공개는 필요하지만, 고지가 작품 경험을 해쳐서는 안 된다. 위반 시 최대 €15m 또는 회사 전 세계 연간 매출의 3% 중 더 큰 금액의 과징금이 부과될 수 있다. 의무는 공식적으로 8월 2일부터 적용되지만, 간소화 패키지에서는 기계 표시 시한을 12월로 옮기는 방안도 제기됐다.

광고업계는 AI 생성 광고가 투명성 규정에서 면제돼야 한다고 주장해 왔다. 유럽연합 집행위원회는 5월 지침 초안을 공개했으며, 기업이 준수 사실을 보이기 위해 서명할 수 있는 AI 콘텐츠 표시와 라벨링 실천 강령을 최종화하고 있다.

글로벌 서비스는 한 시장만을 위한 별도 시스템을 거의 만들지 않기 때문에, 이 규정은 유럽 밖 플랫폼에도 영향을 줄 수 있다. 집행은 여전히 어렵다. 워터마크는 제거될 수 있고, 메타데이터는 손실될 수 있으며, 기계 작성 텍스트는 감지가 어렵기 때문이다. EU는 별도로 비동의 친밀 딥페이크 금지를 추진했으며, 더 넓은 표시 제도는 온라인 신뢰를 약화할 수 있는 합성 미디어를 대상으로 한다.

8월 2일부터 유럽연합(EU)에서 AI 시스템을 만들거나 사용하는 기업은 실제처럼 보이지만 기계가 만든 콘텐츠에 표시를 해야 한다. AI Act의 투명성 규정이 집행 단계에 들어가면서, 적용 대상은 EU 전역의 제공자와 배포자이며 딥페이크, 합성 미디어, 기계 생성 텍스트, 챗봇 상호작용까지 포함한다.

제공자, 즉 생성형 시스템을 만드는 기업은 이미지, 오디오, 비디오, 텍스트가 AI 생성 또는 조작 콘텐츠로 감지될 수 있도록 기계 판독 표시를 삽입해야 한다. 배포자, 즉 AI 시스템을 사용하는 개인이나 기업은 딥페이크를 만들거나 공익 사안에 관한 기계 작성 텍스트를 게시할 때 이를 명확하고 신속하게 공개해야 한다.

사실적인 딥페이크 표시 의무는 제작자가 속일 의도가 있었는지와 관계없이 적용된다. 또한 이용자가 챗봇과 상호작용을 시작하는 순간 이를 알려야 하며, 서비스 약관 문구로 대신할 수 없다. 명백히 비현실적이거나 환상적인 콘텐츠는 규정 밖에 있으며, AI 생성 텍스트도 실제 편집 책임을 가진 사람이 의미 있게 검토했다면 표시 의무를 피할 수 있다.

예술적·풍자적 콘텐츠도 공개는 필요하지만, 고지가 작품 경험을 해쳐서는 안 된다. 위반 시 최대 €15m 또는 회사 전 세계 연간 매출의 3% 중 더 큰 금액의 과징금이 부과될 수 있다. 의무는 공식적으로 8월 2일부터 적용되지만, 간소화 패키지에서는 기계 표시 시한을 12월로 옮기는 방안도 제기됐다.

광고업계는 AI 생성 광고가 투명성 규정에서 면제돼야 한다고 주장해 왔다. 유럽연합 집행위원회는 5월 지침 초안을 공개했으며, 기업이 준수 사실을 보이기 위해 서명할 수 있는 AI 콘텐츠 표시와 라벨링 실천 강령을 최종화하고 있다.

글로벌 서비스는 한 시장만을 위한 별도 시스템을 거의 만들지 않기 때문에, 이 규정은 유럽 밖 플랫폼에도 영향을 줄 수 있다. 집행은 여전히 어렵다. 워터마크는 제거될 수 있고, 메타데이터는 손실될 수 있으며, 기계 작성 텍스트는 감지가 어렵기 때문이다. EU는 별도로 비동의 친밀 딥페이크 금지를 추진했으며, 더 넓은 표시 제도는 온라인 신뢰를 약화할 수 있는 합성 미디어를 대상으로 한다.