10月14日水曜日、ニューデリーで開かれたTASI 2026フェスティバルで、OpenAI、Google、Robloxの幹部や政策研究者、安全性コンサルタントが、AIの安全性、子どもの保護、規制について議論しました。参加者は、安全対策よりAIの進歩が速いと述べ、ディープフェイク、カメラ搭載スマートグラスによるプライバシーリスク、年齢確認、インドの規制枠組みの不備を話し合いました。2日間の会議は、AIガバナンスとオンライン安全を議題に、社会研究センターとTASIが共同で開催しました。

企業がテストや自主的な協力でリスクを管理できるのか、それともAIモデルやツールが一般に公開される前に政府がより明確な基準を設けるべきか、参加者の意見が交わされました。議題には、意図的な攻撃でシステムを試すレッドチーミング、SynthIDやハッシュ照合を通じた業界内の安全情報共有、子ども向けの安全な初期設定、年齢推定、インドの多文化的背景を考慮した評価が含まれました。OpenAIのプラギャ・ミスラは、安全性を優先するため、同社が強化学習とモデル訓練の実行を遅らせたと説明しました。一方で、AGIを最初に実現し、人類に役立てることも目指していると述べました。

クオンタム・ハブの創設パートナー、ロヒト・クマールは、ユーザーの信頼には価値があるものの、競争によって企業が信頼と安全への投資を控える可能性があると指摘しました。成果を明確に定めた柔軟な早期規制と、政府、テクノロジー企業、研究者の緊密な連携を求めました。Googleのスニグダ・バードワジは、児童性的虐待コンテンツを一切容認せず、モデルがそのようなコンテンツを生成した場合は公開を遅らせることもあると述べました。同社は有害な出力を調べるレッドチーミングを継続的に実施していると説明し、プライバシーと知的財産の懸念に対処しながら、相互運用可能な安全レイヤーを通じて各プラットフォームがリスク情報を共有するよう促しました。パネルでは、スマートグラスを広く発売する前に管理された環境で試験する案も出ました。

Robloxのニッキー・ジャクソン・コラコは、子どもの安全は保護者が設定を調整することに頼らず、初期設定で確保されるべきだと述べました。年齢に応じて通信やコンテンツを制限する仕組みを説明し、1社の保護策強化が他社の追随を促す可能性を指摘しました。TPのアカシュ・プガリアは、子どもがGeminiやChatGPTの回答に頼るおそれを挙げ、批判的思考、グルーミング、説得力のある音声・動画のディープフェイクへの懸念を示しました。ミスラによると、OpenAIの調査チームは、昨年インドの若者が同社モデルを使う主な目的の一つとして学習を確認しましたが、利用者からは直接回答が学びを損なう場合があるとの声もありました。同社は、答えをそのまま示さずに学習者を導くソクラテス式の方法を用いたChatGPT学習モードを早期に公開したと述べました。

クマールは、AI安全規制には明確な世界共通モデルがなく、テクノロジー企業と政策立案者の情報格差が広がっていると述べました。細部を一律に定めない政策を求め、英国のオンライン安全法にある子どもの安全規範を例に挙げました。インドのテクノロジー関連法はセーフハーバーに大きく依存しており、削除要請を受けたコンテンツをプラットフォームが削除しない場合、第三者の投稿について責任を負わせる仕組みだと説明しました。クマールは、この方式は現在の技術環境に合わないと主張しました。

10月14日水曜日、ニューデリーで開かれたTASI 2026フェスティバルで、OpenAI、Google、Robloxの幹部や政策研究者、安全性コンサルタントが、AIの安全性、子どもの保護、規制について議論しました。参加者は、安全対策よりAIの進歩が速いと述べ、ディープフェイク、カメラ搭載スマートグラスによるプライバシーリスク、年齢確認、インドの規制枠組みの不備を話し合いました。2日間の会議は、AIガバナンスとオンライン安全を議題に、社会研究センターとTASIが共同で開催しました。

企業がテストや自主的な協力でリスクを管理できるのか、それともAIモデルやツールが一般に公開される前に政府がより明確な基準を設けるべきか、参加者の意見が交わされました。議題には、意図的な攻撃でシステムを試すレッドチーミング、SynthIDやハッシュ照合を通じた業界内の安全情報共有、子ども向けの安全な初期設定、年齢推定、インドの多文化的背景を考慮した評価が含まれました。OpenAIのプラギャ・ミスラは、安全性を優先するため、同社が強化学習とモデル訓練の実行を遅らせたと説明しました。一方で、AGIを最初に実現し、人類に役立てることも目指していると述べました。

クオンタム・ハブの創設パートナー、ロヒト・クマールは、ユーザーの信頼には価値があるものの、競争によって企業が信頼と安全への投資を控える可能性があると指摘しました。成果を明確に定めた柔軟な早期規制と、政府、テクノロジー企業、研究者の緊密な連携を求めました。Googleのスニグダ・バードワジは、児童性的虐待コンテンツを一切容認せず、モデルがそのようなコンテンツを生成した場合は公開を遅らせることもあると述べました。同社は有害な出力を調べるレッドチーミングを継続的に実施していると説明し、プライバシーと知的財産の懸念に対処しながら、相互運用可能な安全レイヤーを通じて各プラットフォームがリスク情報を共有するよう促しました。パネルでは、スマートグラスを広く発売する前に管理された環境で試験する案も出ました。

Robloxのニッキー・ジャクソン・コラコは、子どもの安全は保護者が設定を調整することに頼らず、初期設定で確保されるべきだと述べました。年齢に応じて通信やコンテンツを制限する仕組みを説明し、1社の保護策強化が他社の追随を促す可能性を指摘しました。TPのアカシュ・プガリアは、子どもがGeminiやChatGPTの回答に頼るおそれを挙げ、批判的思考、グルーミング、説得力のある音声・動画のディープフェイクへの懸念を示しました。ミスラによると、OpenAIの調査チームは、昨年インドの若者が同社モデルを使う主な目的の一つとして学習を確認しましたが、利用者からは直接回答が学びを損なう場合があるとの声もありました。同社は、答えをそのまま示さずに学習者を導くソクラテス式の方法を用いたChatGPT学習モードを早期に公開したと述べました。

クマールは、AI安全規制には明確な世界共通モデルがなく、テクノロジー企業と政策立案者の情報格差が広がっていると述べました。細部を一律に定めない政策を求め、英国のオンライン安全法にある子どもの安全規範を例に挙げました。インドのテクノロジー関連法はセーフハーバーに大きく依存しており、削除要請を受けたコンテンツをプラットフォームが削除しない場合、第三者の投稿について責任を負わせる仕組みだと説明しました。クマールは、この方式は現在の技術環境に合わないと主張しました。