Googleの生成AI機能、未成年者へのリスクが指摘される
- •コモン・センス・メディアの報告書は、Google検索の生成AI機能が子どもたちに許容できないリスクをもたらすと警告した。
- •2,500件以上のクエリ調査で、自殺リスクの検知失敗や有害コンテンツの提供といった不備が確認された。
- •Googleは安全ガードレールを強調し、本報告書は製品の安全性や有用性を正しく測定していないと反論している。
コモン・センス・メディア内のYouth AI Safety Instituteによる報告書は、Googleの検索機能に統合された生成AIが、子どもたちにとって許容できないリスクを抱えていると結論付けた。この調査は5月16日から7月1日にかけて実施され、未成年者向けに設定されたアカウントでAI OverviewsとAIモードの検証を行った。研究チームは宿題から繊細なメンタルヘルスに関する話題まで2,500件以上の検索クエリを実行し、2,000件以上の引用元を監査した。その結果、自殺念慮の検知失敗や、摂食障害の兆候を正常と誤判定したほか、性的なディープフェイクを生成するための手順を表示するなどの問題が明らかになった。
これらの生成AI機能は、個人用および学校支給のデバイスの両方でデフォルトの検索体験に直接組み込まれており、保護者や管理者が無効にする選択肢は用意されていない。報告書は、情報精度の判断を子ども自身に委ねる設計は、十分なメディアリテラシーを持たない子どもにとって過度な負担であると指摘した。同研究所は、Googleが公平性や人間の安全性に関する8つのAI原則のうち7つに抵触していると主張している。また、歴史に関する回答の43％は検索のたびに内容が異なり、引用の29％は編集による管理が欠如したSNSやフォーラムから取得されていた。
Googleはこれに対し、報告書が限定的かつ代表性の低いクエリに焦点を当てており、一般ユーザーの利用実態を反映していないと反論した。広報担当者は、同社が強力な品質・安全ガードレールを導入しており、若年ユーザー向けに保護レイヤーを追加していると強調した。また、AI機能を個別には無効化できないものの、保護者は子ども用アカウントの検索機能自体をオフにすることが可能だと説明した。さらに、報告書の具体例の多くは検証不可能であり、同社の内部テストではより高い信頼性と品質が確認されていると主張した。
今回の調査結果は、オンラインでの未成年者保護を巡る世界的な議論の中で発表された。ジョン・キング・ジュニア（元米国教育長官であり、本研究所の理事アドバイザー）は、こうした機能の組織的な統合に強い懸念を表明した。彼は、教育者や保護者がアクセスを制限する手段を提供せず、デフォルトでこれらのツールを有効にしたGoogleの判断を批判した。なお、Youth AI Safety InstituteはOpenAIやAnthropicなどから資金提供を受けているが、調査における編集上の独立性は維持されていると明言している。