생성형 AI 모델은 사용자가 영어 대신 덜 대중적인 자연어를 사용하여 프롬프트를 입력할 때 '탈옥'에 취약한 것으로 나타났다. 이러한 보안 격차는 대규모 언어 모델이 주로 방대한 영어 데이터셋으로 학습된 결과다. 이로 인해 안전 메커니즘이 영어에는 최적화되어 있으나, 스와힐리어, 벵골어, 자바어와 같은 언어로 입력된 악의적인 프롬프트에는 대응력이 현저히 떨어진다.

공격자들은 이러한 언어적 불균형을 악용해 영어였다면 즉시 차단되었을 유해 콘텐츠를 해당 언어들로 작성하여 안전 필터를 피한다. 특히 '언어 전환(Code-switching)' 기법을 활용해 영어와 비주류 언어를 혼용함으로써 AI의 감지 체계를 혼란에 빠뜨린다. 그 결과 모델은 결합된 의도를 유해한 것으로 식별하지 못하고 안전 조치를 우회하게 된다.

일부에서는 모든 입력을 영어로 번역해 안전성을 검사하자는 대안을 제시하지만, 번역 오류로 인해 유해성을 제대로 감지하지 못하는 한계가 존재한다. 더욱이 전 세계 영어 사용자는 약 15%에서 20%에 불과하여, 영어만 지원하는 방식은 상업적으로도 부적합하다. 따라서 개발자들은 모든 언어에서 일관된 가이드라인이 작동하도록 다국어 안전성을 강화해야 하는 과제를 안고 있다.

2026년 5월 16일 발표된 연구 '다국어 환경에서 안전 가이드라인은 왜 저하되는가?'에서는 10개 언어, 190만 개의 응답을 분석하여 이 문제를 정량화했다. 맥스 장(Max Zhang), 아민 파텔(Ameen Patel), 상 트루옹(Sang Truong), 산미 코예조(Sanmi Koyejo) 등이 참여한 연구진은 모델의 언어 능력 부족과 개념적 기반 불일치를 다국어 안전성 저하의 핵심 동인으로 꼽았다. 이들은 프롬프트별 교차 언어 안전 격차와 언어 독립적 강건성을 분리하기 위해 '문항 반응 이론(IRT)' 프레임워크를 도입했다. 향후 저자원 언어의 유해 패턴을 인식하는 학습이 고도화됨에 따라 이러한 우회 공격의 효율성은 점차 감소할 것으로 전망된다.

생성형 AI 모델은 사용자가 영어 대신 덜 대중적인 자연어를 사용하여 프롬프트를 입력할 때 '탈옥'에 취약한 것으로 나타났다. 이러한 보안 격차는 대규모 언어 모델이 주로 방대한 영어 데이터셋으로 학습된 결과다. 이로 인해 안전 메커니즘이 영어에는 최적화되어 있으나, 스와힐리어, 벵골어, 자바어와 같은 언어로 입력된 악의적인 프롬프트에는 대응력이 현저히 떨어진다.

공격자들은 이러한 언어적 불균형을 악용해 영어였다면 즉시 차단되었을 유해 콘텐츠를 해당 언어들로 작성하여 안전 필터를 피한다. 특히 '언어 전환(Code-switching)' 기법을 활용해 영어와 비주류 언어를 혼용함으로써 AI의 감지 체계를 혼란에 빠뜨린다. 그 결과 모델은 결합된 의도를 유해한 것으로 식별하지 못하고 안전 조치를 우회하게 된다.

일부에서는 모든 입력을 영어로 번역해 안전성을 검사하자는 대안을 제시하지만, 번역 오류로 인해 유해성을 제대로 감지하지 못하는 한계가 존재한다. 더욱이 전 세계 영어 사용자는 약 15%에서 20%에 불과하여, 영어만 지원하는 방식은 상업적으로도 부적합하다. 따라서 개발자들은 모든 언어에서 일관된 가이드라인이 작동하도록 다국어 안전성을 강화해야 하는 과제를 안고 있다.

2026년 5월 16일 발표된 연구 '다국어 환경에서 안전 가이드라인은 왜 저하되는가?'에서는 10개 언어, 190만 개의 응답을 분석하여 이 문제를 정량화했다. 맥스 장(Max Zhang), 아민 파텔(Ameen Patel), 상 트루옹(Sang Truong), 산미 코예조(Sanmi Koyejo) 등이 참여한 연구진은 모델의 언어 능력 부족과 개념적 기반 불일치를 다국어 안전성 저하의 핵심 동인으로 꼽았다. 이들은 프롬프트별 교차 언어 안전 격차와 언어 독립적 강건성을 분리하기 위해 '문항 반응 이론(IRT)' 프레임워크를 도입했다. 향후 저자원 언어의 유해 패턴을 인식하는 학습이 고도화됨에 따라 이러한 우회 공격의 효율성은 점차 감소할 것으로 전망된다.