英国のAI安全研究所は先端AIモデルにアクセスし、米政府やGoogleを含む主要開発企業とともに評価を進めていると、AI担当相のカニシュカ・ナラヤン氏が月曜日に述べました。同研究所はGemini 4 Argonなどを試験し、リスクを早期に特定して安全策を評価しています。評価対象の全モデル名は公表されませんでした。

同研究所は主要AI開発企業との任意協定に基づき、モデル公開前にアクセスできます。能力とリスクを調べ、新たな国際安全基準づくりに貢献するためです。英国には大手AI開発企業がなく、政府は高性能化するAIシステムのリスク評価と管理で主導的な役割を目指しています。マイクロソフト社長のブラッド・スミス氏は、月曜日に公開されたBBCのインタビューで、英国はAI安全指針づくりを主導するのに適した立場にあると述べました。

今回の発表は、AnthropicとOpenAIがAIエージェントの制御不能または望ましくない挙動の事例を明らかにし、監視が強まる中で行われました。業界関係者の一部は、この技術が人類に存亡の危機をもたらす可能性を警告しています。先月には、米ホワイトハウスが米国の審査が終わるまで新モデルを英国の試験者に提供しないようOpenAIとAnthropicに求めたとの報道もありました。AI安全研究所は9月に公表した書簡で、Anthropicによれば、米国外の組織は同社のMythos 5.1モデルにアクセスできなかったと明らかにしました。

最先端AIシステムへのアクセスについて問われたナラヤン氏は、英国と米国の長年の関係に言及し、両政府間の協議によって英国の研究者が最新世代のモデルを試験できると確信していると述べました。閣僚らは、同研究所が広くアクセスを失ったとはこれまで確認していません。

英国のAI安全研究所は先端AIモデルにアクセスし、米政府やGoogleを含む主要開発企業とともに評価を進めていると、AI担当相のカニシュカ・ナラヤン氏が月曜日に述べました。同研究所はGemini 4 Argonなどを試験し、リスクを早期に特定して安全策を評価しています。評価対象の全モデル名は公表されませんでした。

同研究所は主要AI開発企業との任意協定に基づき、モデル公開前にアクセスできます。能力とリスクを調べ、新たな国際安全基準づくりに貢献するためです。英国には大手AI開発企業がなく、政府は高性能化するAIシステムのリスク評価と管理で主導的な役割を目指しています。マイクロソフト社長のブラッド・スミス氏は、月曜日に公開されたBBCのインタビューで、英国はAI安全指針づくりを主導するのに適した立場にあると述べました。

今回の発表は、AnthropicとOpenAIがAIエージェントの制御不能または望ましくない挙動の事例を明らかにし、監視が強まる中で行われました。業界関係者の一部は、この技術が人類に存亡の危機をもたらす可能性を警告しています。先月には、米ホワイトハウスが米国の審査が終わるまで新モデルを英国の試験者に提供しないようOpenAIとAnthropicに求めたとの報道もありました。AI安全研究所は9月に公表した書簡で、Anthropicによれば、米国外の組織は同社のMythos 5.1モデルにアクセスできなかったと明らかにしました。

最先端AIシステムへのアクセスについて問われたナラヤン氏は、英国と米国の長年の関係に言及し、両政府間の協議によって英国の研究者が最新世代のモデルを試験できると確信していると述べました。閣僚らは、同研究所が広くアクセスを失ったとはこれまで確認していません。