木曜日にMeta Oversight Boardが発表した調査によると、主要なAIシステムは、制限的な指導者や政府への批判を生成する際、寛容な国々と比較して拒否する可能性が有意に高いことが明らかになった。研究者は、Meta、Anthropic、OpenAIのシステムを含む10種類の商用Large language modelsに対し、各国の指導者を批判する文章の作成を試みた。米国や英国の指導者を批判するリクエストには頻繁に応じたものの、中国、サウジアラビア、サウジアラビアの皇太子、タイなどの当局に関する同様のコンテンツについては一貫して生成を拒否した。同理事会は、開発者が人権に対する十分なデューデリジェンスと緩和策を講じなければ、AIインフラが意図せず世界的な不当な表現の自由の制限を拡大させる可能性があると警告している。こうした反応は、トレーニングデータに含まれる潜在的なバイアスや、企業レベルのリスク・法的責任の評価に起因する可能性があると理事会は分析している。

この調査結果は、AIモデルが当該国の法律が及ぶ国境を越えて、言論の制限を反映していることを示唆している。これにより、自由な国々のユーザーが外国政府を批判する抗議資料などを生成する能力が実質的に制限されている。理事会は政治的批判に関する7つの特定のテストを実施し、オーストラリアのユーザーからチリ、日本、台湾、英国、米国といった国々の当局への批判が求められた場合には回答する可能性がはるかに高いと指摘した。一方で、カンボジア、中国、サウジアラビア、タイ、トルコの当局を批判するリクエストに対しては、回答する可能性が低かった。理事会は原因を断定することはできなかったが、AIプラットフォームが制限的な体制の影響を世界的に広げてしまうリスクを強調した。

これに続き、5月に科学誌Natureで発表された米国の大学の研究者らによる別の研究では、米国製のモデルが非英語圏のデータを処理する際に外国の影響を受けやすいことが判明した。研究者らはChatGPTに対し、中国が民主主義国家であるかどうかを英語と中国語で質問した。英語での問いに対しては、中国は一般的に民主主義とはみなされていないと正しく回答したが、中国語でプロンプトを入力した際には「民主主義をどう定義するかによる」という回答が返ってきた。オレゴン大学で社会学の助教授を務める共同執筆者のハンナ・ウェイト(Hannah Waight)は、AIモデルがインターネットから中立的に学習するのではなく、制度的な力によって形成された情報環境から学習していると強調した。ESADEビジネススクールの機械学習専門家であるカルロス・カラスコ＝ファレ(Carlos Carrasco-Farré)は、AIシステムが情報生産や抑制に関する権力不平等を大規模に継承していると付け加えた。同氏は、開発者が繰り返される国家のナラティブを独立した声として扱わないようにし、包括的な多言語監査を実施することで、こうした問題を緩和できると示唆した。

木曜日にMeta Oversight Boardが発表した調査によると、主要なAIシステムは、制限的な指導者や政府への批判を生成する際、寛容な国々と比較して拒否する可能性が有意に高いことが明らかになった。研究者は、Meta、Anthropic、OpenAIのシステムを含む10種類の商用Large language modelsに対し、各国の指導者を批判する文章の作成を試みた。米国や英国の指導者を批判するリクエストには頻繁に応じたものの、中国、サウジアラビア、サウジアラビアの皇太子、タイなどの当局に関する同様のコンテンツについては一貫して生成を拒否した。同理事会は、開発者が人権に対する十分なデューデリジェンスと緩和策を講じなければ、AIインフラが意図せず世界的な不当な表現の自由の制限を拡大させる可能性があると警告している。こうした反応は、トレーニングデータに含まれる潜在的なバイアスや、企業レベルのリスク・法的責任の評価に起因する可能性があると理事会は分析している。

この調査結果は、AIモデルが当該国の法律が及ぶ国境を越えて、言論の制限を反映していることを示唆している。これにより、自由な国々のユーザーが外国政府を批判する抗議資料などを生成する能力が実質的に制限されている。理事会は政治的批判に関する7つの特定のテストを実施し、オーストラリアのユーザーからチリ、日本、台湾、英国、米国といった国々の当局への批判が求められた場合には回答する可能性がはるかに高いと指摘した。一方で、カンボジア、中国、サウジアラビア、タイ、トルコの当局を批判するリクエストに対しては、回答する可能性が低かった。理事会は原因を断定することはできなかったが、AIプラットフォームが制限的な体制の影響を世界的に広げてしまうリスクを強調した。

これに続き、5月に科学誌Natureで発表された米国の大学の研究者らによる別の研究では、米国製のモデルが非英語圏のデータを処理する際に外国の影響を受けやすいことが判明した。研究者らはChatGPTに対し、中国が民主主義国家であるかどうかを英語と中国語で質問した。英語での問いに対しては、中国は一般的に民主主義とはみなされていないと正しく回答したが、中国語でプロンプトを入力した際には「民主主義をどう定義するかによる」という回答が返ってきた。オレゴン大学で社会学の助教授を務める共同執筆者のハンナ・ウェイト(Hannah Waight)は、AIモデルがインターネットから中立的に学習するのではなく、制度的な力によって形成された情報環境から学習していると強調した。ESADEビジネススクールの機械学習専門家であるカルロス・カラスコ＝ファレ(Carlos Carrasco-Farré)は、AIシステムが情報生産や抑制に関する権力不平等を大規模に継承していると付け加えた。同氏は、開発者が繰り返される国家のナラティブを独立した声として扱わないようにし、包括的な多言語監査を実施することで、こうした問題を緩和できると示唆した。