유럽연합(EU)의 Artificial Intelligence Act 집행이 8월 2일 유럽 전역에서 시작됐다. 이에 따라 European Commission의 AI Office와 각국 당국은 챗봇, 딥페이크, 고위험 알고리즘, 범용 AI 모델에 관한 새 규칙을 적용하기 시작했다. 이 법은 2021년 처음 제안됐고, 2023년 12월 장시간 협상 끝에 잠정 합의됐으며, 2024년 5월 Council of the EU가 공식 채택했다. Business Today는 이를 안전하고 투명하며 윤리적인 기술을 위한 규칙을 세우는 세계 최초의 포괄적 수평 AI 규제 체계라고 설명했다.

대화형 AI 시스템을 개발하거나 배포하는 사업자는 이제 투명성 의무를 진다. 챗봇과 대화형 도구는 사용자가 인간이 아니라 인공지능 시스템과 상호작용하고 있다는 점을 명확히 알려야 한다. 또한 AI가 생성하거나 편집한 이미지, 오디오, 비디오를 포함한 딥페이크는 눈에 보이는 표시와 기계 판독형 워터마크(소프트웨어가 감지할 수 있는 디지털 표식)를 포함해야 한다. European Commission은 AI 생성 콘텐츠 투명성에 관한 공식 Code of Practice에 서명한 180개 이상 조직의 초기 명단도 공개했다.

AI Act는 안전, 기본권, 사회에 대한 위협을 기준으로 4단계 위험 피라미드를 적용한다. 허용 불가 위험 시스템은 금지되며, 여기에는 인지 행동 조작, 사회적 점수화, 예측 치안, 직장이나 학교에서의 감정 인식, 법 집행기관의 공공장소 실시간 원격 생체 인식이 포함된다. 다만 좁은 예외는 인정된다. 의료 질병 진단, 자율주행차, 형사 수사에 쓰이는 고위험 AI는 EU 단일시장에 들어가기 전 엄격한 시험을 통과하고, 인간 감독을 유지하며, 강한 데이터 거버넌스 규칙을 충족해야 한다.

챗봇과 합성 콘텐츠 생성기를 포함한 제한적 위험 시스템은 AI가 작동하거나 콘텐츠를 생성하고 있음을 사용자에게 알리는 경우 허용된다. AI 기반 비디오게임이나 일반 스팸 필터처럼 최소 위험 또는 무위험 애플리케이션은 이 법에 따른 규제 제한을 받지 않는다. 감독은 여러 작업에 활용 가능한 범용 AI 모델, 즉 GPAI(다양한 작업에 사용할 수 있는 모델)에도 적용된다. 여기에는 자율 AI 에이전트와 화학, 생물학, 방사선, 핵 사고, 사이버 범죄, 인간 통제 상실, 기본권 침해와 관련한 시스템 위험을 제기할 수 있는 고도 모델이 포함된다.

단일시장에서 활동하는 GPAI 개발자는 규제 당국을 위해 기술 세부 사항을 문서화하고, 저작권 준수 정책을 유지하며, 모델 훈련에 사용한 콘텐츠의 공개 요약본을 게시해야 한다. 의무를 지키지 않는 기업은 전년도 전 세계 연매출의 일정 비율로 산정되는 과징금을 받을 수 있으며, 중소기업과 스타트업에는 비례적 상한이 적용된다.

집행은 AI Office, National Competent Authorities, European Data Protection Supervisor가 나눠 맡는다. AI Office는 GPAI 제공업체와 Digital Services Act에 따라 지정된 Very Large Online Platforms 및 검색엔진에 통합된 시스템을 감독한다. AI Office는 옥스퍼드대 Alessandro Abate 교수를 Lead Scientific Adviser로 임명했으며, 독립 AI 전문가 60명으로 구성된 Scientific Panel이 모델 위험과 시험 기준을 평가한다. European Commission은 온라인 신고 및 내부고발 도구와 다운스트림 개발자를 위한 보안 보고 채널도 열었다.

헨나 비르쿠넨(Henna Virkkunen) 기술주권·안보·민주주의 담당 Executive Vice-President는 AI Act가 시민을 보호하면서 혁신가에게 법적 확실성을 제공하기 위한 위험 기반 체계라고 말했다. EU의 단계적 일정에 따르면 고위험 AI 규칙은 2027년 12월 2일, 규제 대상 물리 제품의 AI 규칙은 2028년 8월 2일 적용된다. 비동의 성적 AI 콘텐츠와 아동 성착취 자료에 대한 금지는 2026년 12월 2일 시행된다.

유럽연합(EU)의 Artificial Intelligence Act 집행이 8월 2일 유럽 전역에서 시작됐다. 이에 따라 European Commission의 AI Office와 각국 당국은 챗봇, 딥페이크, 고위험 알고리즘, 범용 AI 모델에 관한 새 규칙을 적용하기 시작했다. 이 법은 2021년 처음 제안됐고, 2023년 12월 장시간 협상 끝에 잠정 합의됐으며, 2024년 5월 Council of the EU가 공식 채택했다. Business Today는 이를 안전하고 투명하며 윤리적인 기술을 위한 규칙을 세우는 세계 최초의 포괄적 수평 AI 규제 체계라고 설명했다.

대화형 AI 시스템을 개발하거나 배포하는 사업자는 이제 투명성 의무를 진다. 챗봇과 대화형 도구는 사용자가 인간이 아니라 인공지능 시스템과 상호작용하고 있다는 점을 명확히 알려야 한다. 또한 AI가 생성하거나 편집한 이미지, 오디오, 비디오를 포함한 딥페이크는 눈에 보이는 표시와 기계 판독형 워터마크(소프트웨어가 감지할 수 있는 디지털 표식)를 포함해야 한다. European Commission은 AI 생성 콘텐츠 투명성에 관한 공식 Code of Practice에 서명한 180개 이상 조직의 초기 명단도 공개했다.

AI Act는 안전, 기본권, 사회에 대한 위협을 기준으로 4단계 위험 피라미드를 적용한다. 허용 불가 위험 시스템은 금지되며, 여기에는 인지 행동 조작, 사회적 점수화, 예측 치안, 직장이나 학교에서의 감정 인식, 법 집행기관의 공공장소 실시간 원격 생체 인식이 포함된다. 다만 좁은 예외는 인정된다. 의료 질병 진단, 자율주행차, 형사 수사에 쓰이는 고위험 AI는 EU 단일시장에 들어가기 전 엄격한 시험을 통과하고, 인간 감독을 유지하며, 강한 데이터 거버넌스 규칙을 충족해야 한다.

챗봇과 합성 콘텐츠 생성기를 포함한 제한적 위험 시스템은 AI가 작동하거나 콘텐츠를 생성하고 있음을 사용자에게 알리는 경우 허용된다. AI 기반 비디오게임이나 일반 스팸 필터처럼 최소 위험 또는 무위험 애플리케이션은 이 법에 따른 규제 제한을 받지 않는다. 감독은 여러 작업에 활용 가능한 범용 AI 모델, 즉 GPAI(다양한 작업에 사용할 수 있는 모델)에도 적용된다. 여기에는 자율 AI 에이전트와 화학, 생물학, 방사선, 핵 사고, 사이버 범죄, 인간 통제 상실, 기본권 침해와 관련한 시스템 위험을 제기할 수 있는 고도 모델이 포함된다.

단일시장에서 활동하는 GPAI 개발자는 규제 당국을 위해 기술 세부 사항을 문서화하고, 저작권 준수 정책을 유지하며, 모델 훈련에 사용한 콘텐츠의 공개 요약본을 게시해야 한다. 의무를 지키지 않는 기업은 전년도 전 세계 연매출의 일정 비율로 산정되는 과징금을 받을 수 있으며, 중소기업과 스타트업에는 비례적 상한이 적용된다.

집행은 AI Office, National Competent Authorities, European Data Protection Supervisor가 나눠 맡는다. AI Office는 GPAI 제공업체와 Digital Services Act에 따라 지정된 Very Large Online Platforms 및 검색엔진에 통합된 시스템을 감독한다. AI Office는 옥스퍼드대 Alessandro Abate 교수를 Lead Scientific Adviser로 임명했으며, 독립 AI 전문가 60명으로 구성된 Scientific Panel이 모델 위험과 시험 기준을 평가한다. European Commission은 온라인 신고 및 내부고발 도구와 다운스트림 개발자를 위한 보안 보고 채널도 열었다.

헨나 비르쿠넨(Henna Virkkunen) 기술주권·안보·민주주의 담당 Executive Vice-President는 AI Act가 시민을 보호하면서 혁신가에게 법적 확실성을 제공하기 위한 위험 기반 체계라고 말했다. EU의 단계적 일정에 따르면 고위험 AI 규칙은 2027년 12월 2일, 규제 대상 물리 제품의 AI 규칙은 2028년 8월 2일 적용된다. 비동의 성적 AI 콘텐츠와 아동 성착취 자료에 대한 금지는 2026년 12월 2일 시행된다.