AIの安全性、言語によってバイパスされるリスク
- •AIモデルは英語以外の言語で入力された際、安全ガードレールの機能が低下することが判明した。
- •ハッカーは英語中心の訓練データの偏りを悪用し、マイナー言語やコードスイッチングを用いて安全対策を回避している。
- •研究チームは10言語、61種類のモデル構成を評価し、多言語における安全性の欠如がシステム的な要因であることを特定した。
生成AIモデルは、ユーザーが英語以外の言語でプロンプトを入力した場合、「脱獄（セキュリティプロトコルを回避しようとする試み）」に対して脆弱になる。このセキュリティ上のギャップは、主要なLLMが主に英語のデータセットで訓練されていることに起因する。その結果、安全メカニズムは英語に対して高度に最適化される一方で、スワヒリ語、ベンガル語、ジャワ語などのマイナー言語による悪意ある入力に対しては効果が著しく低下する。
悪意ある攻撃者はこの不均衡を悪用し、英語であれば直ちにフラグが立てられるような有害な内容でも、マイナー言語を使って巧妙なプロンプトを作成し、強固な安全フィルタを回避している。また、プロンプトに英語と特定のマイナー言語を混ぜる「コードスイッチング」という手法を用いることで、AIの検知層を混乱させる。モデルが有害な意図を正しく認識できない場合、安全上の注意を回避することが可能になる。
すべての入力を英語に翻訳して安全性を標準化するという提案もあるが、この手法には翻訳の不正確さが伴い、偽陽性や偽陰性を引き起こすリスクがある。さらに、世界人口の約15%から20%しか英語を使用していない現状において、AIの利用を英語話者に限定することは商業的に実現不可能である。AI開発者は、あらゆる言語でガードレールが一貫して機能するよう、多言語における安全性を向上させるという課題に直面している。
2026年5月16日に発表された「なぜ安全ガードレールは言語を越えて劣化するのか？」という研究論文は、10言語、61種類のモデル構成、190万件の回答を調査し、この問題を定量化した。マックス・チャン(Max Zhang)、アミン・パテル(Ameen Patel)、サン・チュオン(Sang Truong)、サンミ・コイエジョ(Sanmi Koyejo)らによるこの研究は、能力の不足や概念的な根拠の不一致が多言語における安全性低下の主な要因であることを特定した。研究チームは、プロンプト固有の言語間安全ギャップや、言語に依存しない頑健性といった安全要因を分離するために「項目応答理論（IRT）」フレームワークを導入した。AI開発者がリソースの少ない言語における有害パターンの認識を重視するにつれ、言語切り替えによる欺瞞戦術の有効性は今後低下すると予測される。