ノーベル賞受賞者のジェフリー・ヒントンとチューリング賞受賞者のロン・リベストを含む415人の科学者が、最先端AIモデルの開発企業と各国政府に対し、AIの封じ込めと安全に関する国際基準機関の設立を求めています。科学者らは企業に慎重な対応を促し、サイバー攻撃能力を持つモデルは、保護されていないネットワークから物理的に切り離す「エアギャップ」を初期設定にするよう提言しました。

提案された機関には、組織や政府、AIとサイバーセキュリティの専門家が参加し、公益のためにAIのアラインメントと封じ込めの最善策を定めることが想定されています。署名者らは、封じ込めに失敗した事例を公開記録として維持することも求めています。書簡では、AIシステムをめぐる事故には、モデルの挙動を予測可能にする取り組みの失敗と、サイバーセキュリティ対策の不備の両方が関係し得ると指摘しました。より強固なサンドボックスや手順によって、防げる事故もあるとしています。

書簡は、AIの開発・導入の慣行を直ちに改めなければ、こうした事故が続き、外部にさらされた重要インフラにさらに大きな被害をもたらす恐れがあると警告しました。また、記事が引用した10月14日公表のユーロバロメーター調査では、欧州の中小企業と中堅企業の42％がすでにAIを利用し、さらに21％が導入を計画していました。記事は、これ以前にも安全対策を求める声があったことや、8月に120社が共同でサイバー防衛の強化を求める公開書簡に署名したこと、OpenAIとAnthropicの幹部がそれぞれ最先端AI開発のペース調整を訴えたことを振り返っています。

ノーベル賞受賞者のジェフリー・ヒントンとチューリング賞受賞者のロン・リベストを含む415人の科学者が、最先端AIモデルの開発企業と各国政府に対し、AIの封じ込めと安全に関する国際基準機関の設立を求めています。科学者らは企業に慎重な対応を促し、サイバー攻撃能力を持つモデルは、保護されていないネットワークから物理的に切り離す「エアギャップ」を初期設定にするよう提言しました。

提案された機関には、組織や政府、AIとサイバーセキュリティの専門家が参加し、公益のためにAIのアラインメントと封じ込めの最善策を定めることが想定されています。署名者らは、封じ込めに失敗した事例を公開記録として維持することも求めています。書簡では、AIシステムをめぐる事故には、モデルの挙動を予測可能にする取り組みの失敗と、サイバーセキュリティ対策の不備の両方が関係し得ると指摘しました。より強固なサンドボックスや手順によって、防げる事故もあるとしています。

書簡は、AIの開発・導入の慣行を直ちに改めなければ、こうした事故が続き、外部にさらされた重要インフラにさらに大きな被害をもたらす恐れがあると警告しました。また、記事が引用した10月14日公表のユーロバロメーター調査では、欧州の中小企業と中堅企業の42％がすでにAIを利用し、さらに21％が導入を計画していました。記事は、これ以前にも安全対策を求める声があったことや、8月に120社が共同でサイバー防衛の強化を求める公開書簡に署名したこと、OpenAIとAnthropicの幹部がそれぞれ最先端AI開発のペース調整を訴えたことを振り返っています。