음성 복제 기술의 위험성과 보안 과제
- •소프트웨어 개발자 대니얼 은와네리(Daniel Nwaneri)가 알리바바의 오픈소스 Qwen3-TTS를 활용해 50메가바이트 규모의 음성 복제 모델을 구축했다.
- •모델 소스코드 내 결함으로 발생한 문장 잘림 문제를 직접 수정해 나이지리아 억양을 반영한 복제 파이프라인을 완성했다.
- •음성 데이터가 영구적인 생체 인식 정보라는 점을 고려해 복제된 모델 가중치를 외부에 공개하지 않기로 결정했다.
소프트웨어 개발자 대니얼 은와네리(Daniel Nwaneri)는 알리바바가 2026년 1월 공개한 오픈소스 모델인 Qwen3-TTS를 활용해 음성 복제 기술의 접근성을 입증했다. 17억 개의 파라미터를 가진 이 모델은 단 60초 분량의 참조 오디오만으로 매우 정교한 음성 복제가 가능하다. 은와네리는 기존 서비스인 ElevenLabs, XTTS, F5-TTS 등이 나이지리아 억양을 제대로 재현하지 못하고 일반적인 서구권 영어 발음으로 변환하는 한계를 확인한 뒤, 무료 Kaggle GPU 자원을 활용해 직접 복제 파이프라인을 구축했다.
개발 과정에서 그는 소스코드의 'modeling_qwen3_tts.py' 파일 2046번째 줄에 하드코딩된 'min_new_tokens=2' 설정이 문장 중간에 잘림 현상을 유발한다는 사실을 발견했다. 해당 버그는 1월부터 저장소에 보고되었으나 방치된 상태였고, 은와네리가 풀 리퀘스트를 통해 직접 수정안을 제출했다. 결과적으로 생성된 50메가바이트 크기의 음성 가중치 파일은 화자의 억양과 모음 압축 방식 등 독특한 생체 인식 정보를 그대로 포함하고 있다.
은와네리는 음성 복제물이 영구적인 생체 인식 식별자로 기능한다는 점을 들어 모델 가중치를 공개 GitHub 저장소에 배포하지 않기로 했다. 비밀번호와 달리 유출 시 변경이 불가능하고 평생 사용되는 음성 정보의 특성을 고려한 결정이다. 현재 기술 수준으로는 1분 분량의 오디오만 있으면 팟캐스트나 소셜 미디어 영상에서 추출한 샘플로도 범죄자가 신원 도용이나 사회 공학적 해킹에 악용할 수 있는 정교한 복제가 가능하다.
그는 개발자들에게 명시적인 동의 없이 특정인의 음성 가중치를 배포하지 말 것을 권고하며, 개인 음성 모델은 로컬 보안 하드웨어 내에서 관리해야 한다고 강조했다. 또한 음성 복제 도구는 개인이 사용하기 쉬워졌으나, 이를 검증하거나 악용을 방지할 방어 기술은 여전히 부재한 상태다. 특히 공인의 음성 복제가 동의 없이 이루어지지 않도록 복제 결과물의 배포에 각별한 주의가 필요하다고 덧붙였다.