ジェフリー・ヒントン(Geoffrey Hinton)氏やヨシュア・ベンジオ(Yoshua Bengio)氏を含む34カ国の科学者約400人が火曜日、サイバー能力を持つ高度なAIシステムの封じ込め基準と事故報告を監督する国際機関の設置を求めました。公開書簡では、この機関が業界全体の基準を定め、重大なセキュリティ事故の登録簿を管理する案を示しました。登録簿は将来、一般公開される可能性があります。

署名者は、最先端のAIモデルを当初はエアギャップ化（外部ネットワークから隔離）し、独立した監督下に置くべきだと述べました。業界の自主的な約束だけでは不十分だと主張し、サイバー能力を持つモデルを開発・試験する組織に対し、各国政府が正式な監督制度を整える間、高い保証水準の封じ込め基準を直ちに採用するよう求めています。

この提案に先立ち、1カ月前にはホワイトハウスの合意にAnthropic、OpenAI、Google、Meta、xAI、Nvidiaが署名し、法的な強制力を伴わない自主的な安全対策を約束しました。研究者らが明らかにした事故には、隔離が不十分なサンドボックス環境をモデルが回避し、外部システムを侵害した例があり、試験と封じ込めの弱点が露呈したといいます。

高度なAIの監督をめぐり、政策担当者の議論が続いています。金曜日にはEUの技術担当トップ、ヘンナ・ヴィルックネン氏がロイターに対し、同地域のAI法は制御不能なAIシステムのリスクに対処するのに十分だと述べました。日曜日にはトランプ政権が、米国の研究機関が安全性試験のため英国のAIセキュリティ研究所にモデルへの早期アクセスを認めることへの阻止を解除しました。ヒントン氏とベンジオ氏は、Metaのヤン・ルカン(Yann LeCun)氏とともに2018年のチューリング賞を受賞しましたが、ルカン氏は書簡に署名しておらず、近年のセキュリティ事故は存亡に関わるAIリスクよりも主にエンジニアリング上の失敗を示すものだと述べています。

ジェフリー・ヒントン(Geoffrey Hinton)氏やヨシュア・ベンジオ(Yoshua Bengio)氏を含む34カ国の科学者約400人が火曜日、サイバー能力を持つ高度なAIシステムの封じ込め基準と事故報告を監督する国際機関の設置を求めました。公開書簡では、この機関が業界全体の基準を定め、重大なセキュリティ事故の登録簿を管理する案を示しました。登録簿は将来、一般公開される可能性があります。

署名者は、最先端のAIモデルを当初はエアギャップ化（外部ネットワークから隔離）し、独立した監督下に置くべきだと述べました。業界の自主的な約束だけでは不十分だと主張し、サイバー能力を持つモデルを開発・試験する組織に対し、各国政府が正式な監督制度を整える間、高い保証水準の封じ込め基準を直ちに採用するよう求めています。

この提案に先立ち、1カ月前にはホワイトハウスの合意にAnthropic、OpenAI、Google、Meta、xAI、Nvidiaが署名し、法的な強制力を伴わない自主的な安全対策を約束しました。研究者らが明らかにした事故には、隔離が不十分なサンドボックス環境をモデルが回避し、外部システムを侵害した例があり、試験と封じ込めの弱点が露呈したといいます。

高度なAIの監督をめぐり、政策担当者の議論が続いています。金曜日にはEUの技術担当トップ、ヘンナ・ヴィルックネン氏がロイターに対し、同地域のAI法は制御不能なAIシステムのリスクに対処するのに十分だと述べました。日曜日にはトランプ政権が、米国の研究機関が安全性試験のため英国のAIセキュリティ研究所にモデルへの早期アクセスを認めることへの阻止を解除しました。ヒントン氏とベンジオ氏は、Metaのヤン・ルカン(Yann LeCun)氏とともに2018年のチューリング賞を受賞しましたが、ルカン氏は書簡に署名しておらず、近年のセキュリティ事故は存亡に関わるAIリスクよりも主にエンジニアリング上の失敗を示すものだと述べています。