GLAAD、AIによるLGBTQIA+コミュニティへの脅威を報告
- •GLAADの報告書は、AIのバイアスとデータ収集慣行がLGBTQIA+コミュニティの安全を脅かしていると指摘した。
- •2024年のユネスコ調査では、MetaのLlama 2がゲイに関連するコンテンツの70%でネガティブな生成を行ったことが判明した。
- •PAIは、マイノリティグループをアルゴリズムによる差別から守るための包摂的な人口統計データ収集ガイドラインを公開した。
GLAADの最高経営責任者（CEO）であるサラ・ケイト・エリス(Sarah Kate Ellis)は、今月初旬に開催されたAI+ NYサミットにおいて、AIのバイアスがLGBTQIA+コミュニティにもたらすリスクを強調した。彼女が発表した報告書「Build for Everyone: A Framework for LGBTQ Representation and Safety in AI」は、広範囲に及ぶアルゴリズムによる差別を記録し、業界への推奨事項を概説している。この報告書によると、基盤モデルは往々にして体系的な偏見を学習しており、2024年のユネスコによる研究では、MetaのLlama 2モデルがゲイの人々に関するコンテンツの約70%において、彼らを犯罪者や異常者として描写するネガティブな内容を生成したことが指摘されている。
アルゴリズムによる差別は、学習データが社会的な偏見を反映している場合に頻発し、それが下流のアプリケーションを通じて拡散される。偏ったテキスト生成にとどまらず、AIシステムは行動データ、検索履歴、ソーシャルリンクを通じて性的指向や性自認を推論することが可能であり、同性愛が犯罪視される地域では監視リスクとなる。この脆弱性は厳しい政治状況によって悪化しており、Trans Legislation Trackerによると、2026年6月時点で米国では797件もの反LGBTQIA+法案が提出されている。
これらの問題に対処するには、人口統計データを用いたシステムの監査が不可欠だが、不適切な取り扱いを行えばマイノリティユーザーをさらに危険にさらすリスクがある。Partnership on AI（PAI）は、開発者がプライバシーと安全性を確保しつつ機密情報を収集できるよう「Participatory & Inclusive Demographic Data Guidelines」を策定した。7人の公平性専門家によって作成されたこのガイドラインは、保護基準の設計において当事者コミュニティを巻き込むことの必要性を強調している。このアプローチでは、Grindrユーザーがデータ共有慣行の露見後にHIVステータスの開示を停止した事例のような害悪を防ぐため、「プライバシー・バイ・デザイン」と市民社会の関与を優先している。
ヘルスケア、教育、公共サービスへのAIの急速な導入が規制上の保護を上回る中で、業界全体における安全基準の実施は依然として一貫性を欠いている。各組織には、表明されたコミットメントを超え、データセキュリティ、同意、およびコミュニティ主導の公平性の定義に関して、一貫性があり検証可能な実践を行うことが強く求められている。PAIは、AIが重要な社会システムに深く組み込まれる中、信頼の構築には抽象的なポリシーの約束に頼るのではなく、信頼性が高く保護的な基準を実証することが不可欠だと強調している。