GLAAD의 CEO 사라 케이트 엘리스(Sarah Kate Ellis)가 이달 초 열린 AI+ NY 서밋에서 AI 편향성이 LGBTQIA+ 커뮤니티에 미치는 위험을 강조했다. 그는 '모두를 위한 구축: AI 내 LGBTQ 표현 및 안전을 위한 프레임워크(Build for Everyone: A Framework for LGBTQ Representation and Safety in AI)' 보고서를 통해 널리 퍼진 알고리즘 차별을 문서화하고 산업계 권고안을 제시했다. 보고서에 따르면 파운데이션 모델은 종종 체계적인 편견을 내재하고 있으며, 2024년 유네스코 연구에서 Meta의 Llama 2 모델이 동성애자를 범죄자나 비정상으로 묘사하는 부정적 콘텐츠를 약 70%의 비율로 생성한 것으로 나타났다.

알고리즘 차별은 학습 데이터에 사회적 편견이 투영될 때 발생하며, 이는 하위 애플리케이션으로 전파된다. 텍스트상의 편향 외에도 AI 시스템은 행동 데이터, 검색 기록, 소셜 링크 등을 통해 성적 지향이나 성 정체성을 추론할 수 있어, 동성 관계가 범죄로 간주되는 지역에서는 감시 위험을 초래한다. 이러한 취약성은 정치적 환경으로 인해 악화되고 있으며, Trans Legislation Tracker에 따르면 2026년 6월 기준 미국 내에서 797건의 반(反)LGBTQIA+ 법안이 발의된 상태다.

이러한 문제를 해결하려면 인구통계 데이터를 사용한 시스템 감사가 필요하지만, 부적절하게 처리될 경우 소외된 사용자를 위험에 노출할 가능성이 있다. PAI(Partnership on AI)는 개발자가 프라이버시와 안전을 보장하면서 민감한 정보를 수집할 수 있도록 '참여형 및 포용적 인구통계 데이터 가이드라인'을 개발했다. 7명의 형평성 전문가가 참여한 이 가이드라인은 보호 표준 설계 시 피해 당사자의 참여를 강조한다. 또한, Grindr 사용자들이 데이터 공유 관행이 드러난 후 HIV 상태 공개를 중단했던 사례와 같은 피해를 예방하기 위해 프라이버시 설계(Privacy-by-design)와 시민 사회의 관여를 우선시한다.

AI가 의료, 교육, 공공 서비스에 빠르게 도입되면서 관련 규제 보호보다 기술 배포가 앞서고 있으며, 업계의 안전 표준 구현은 여전히 일관성이 부족하다. 이에 따라 각 기관은 데이터 보안, 동의, 커뮤니티 주도의 공정성 정의에 관해 실질적이고 검증 가능한 관행을 이행해야 한다. PAI는 AI가 핵심 사회 시스템에 깊숙이 자리 잡고 있는 만큼, 추상적인 정책 약속보다는 신뢰할 수 있는 보호 표준을 증명하는 것이 신뢰 구축의 핵심이라고 강조했다.

GLAAD의 CEO 사라 케이트 엘리스(Sarah Kate Ellis)가 이달 초 열린 AI+ NY 서밋에서 AI 편향성이 LGBTQIA+ 커뮤니티에 미치는 위험을 강조했다. 그는 '모두를 위한 구축: AI 내 LGBTQ 표현 및 안전을 위한 프레임워크(Build for Everyone: A Framework for LGBTQ Representation and Safety in AI)' 보고서를 통해 널리 퍼진 알고리즘 차별을 문서화하고 산업계 권고안을 제시했다. 보고서에 따르면 파운데이션 모델은 종종 체계적인 편견을 내재하고 있으며, 2024년 유네스코 연구에서 Meta의 Llama 2 모델이 동성애자를 범죄자나 비정상으로 묘사하는 부정적 콘텐츠를 약 70%의 비율로 생성한 것으로 나타났다.

알고리즘 차별은 학습 데이터에 사회적 편견이 투영될 때 발생하며, 이는 하위 애플리케이션으로 전파된다. 텍스트상의 편향 외에도 AI 시스템은 행동 데이터, 검색 기록, 소셜 링크 등을 통해 성적 지향이나 성 정체성을 추론할 수 있어, 동성 관계가 범죄로 간주되는 지역에서는 감시 위험을 초래한다. 이러한 취약성은 정치적 환경으로 인해 악화되고 있으며, Trans Legislation Tracker에 따르면 2026년 6월 기준 미국 내에서 797건의 반(反)LGBTQIA+ 법안이 발의된 상태다.

이러한 문제를 해결하려면 인구통계 데이터를 사용한 시스템 감사가 필요하지만, 부적절하게 처리될 경우 소외된 사용자를 위험에 노출할 가능성이 있다. PAI(Partnership on AI)는 개발자가 프라이버시와 안전을 보장하면서 민감한 정보를 수집할 수 있도록 '참여형 및 포용적 인구통계 데이터 가이드라인'을 개발했다. 7명의 형평성 전문가가 참여한 이 가이드라인은 보호 표준 설계 시 피해 당사자의 참여를 강조한다. 또한, Grindr 사용자들이 데이터 공유 관행이 드러난 후 HIV 상태 공개를 중단했던 사례와 같은 피해를 예방하기 위해 프라이버시 설계(Privacy-by-design)와 시민 사회의 관여를 우선시한다.

AI가 의료, 교육, 공공 서비스에 빠르게 도입되면서 관련 규제 보호보다 기술 배포가 앞서고 있으며, 업계의 안전 표준 구현은 여전히 일관성이 부족하다. 이에 따라 각 기관은 데이터 보안, 동의, 커뮤니티 주도의 공정성 정의에 관해 실질적이고 검증 가능한 관행을 이행해야 한다. PAI는 AI가 핵심 사회 시스템에 깊숙이 자리 잡고 있는 만큼, 추상적인 정책 약속보다는 신뢰할 수 있는 보호 표준을 증명하는 것이 신뢰 구축의 핵심이라고 강조했다.