各国政府とAI企業、安全宣言に署名
- •カナダなど6カ国の政府、AI企業、市民団体が11月9日、AIの安全とセキュリティに関する宣言に署名
- •署名者は最先端モデルの共通評価基準と、機微でない知見を公開するリポジトリの整備を約束
- •開発者の安全対策、インシデント警報、システミックリスクの機密通報窓口を提唱
カナダ、バーレーン、フィンランド、フランス、ノルウェー、オランダの政府が、AI企業や市民団体とともに11月9日月曜日、AIの安全とセキュリティで協力する宣言に署名しました。宣言は新たな支持者にも開かれており、内容は更新されています。企業の署名者にはAnthropic、Black Forest Labs、Cohere、Domyn、Hugging Face、Microsoft、Mistral AI、OpenAI、Sakana AI、Synthesiaが含まれます。市民団体からはLawZero、SaferAI、AI Safety Connect、Ifriが署名しました。
宣言は、最先端モデルが国境を越えて開発、導入、利用されるため、その機会とリスクも世界規模に及ぶとしています。明確で予測可能な規制枠組みを設け、透明性、インシデント報告、リスク管理を早急に進め、厳格な評価基準を整えるよう求めました。広島プロセス、ソウルAIサミットの「フロンティアAI安全性への約束」、G7エビアンAI会合、9月23日に開かれた国連安全保障理事会のAI会合、「最先端AIモデルの管理を求める呼びかけ」を、これまでの協力の例として挙げています。
署名者は、最先端モデルのリスクを評価・管理する共通枠組みを設け、共通の技術基準、ツール、手法で支えると約束しました。優先課題には、サイバー分野や化学・生物・放射線・核（CBRN）分野での危険な悪用、自律性の高まり、モデルの不整合、制御不能が含まれます。機微でない評価結果を標準形式で公表し、レッドチーミングの手順、ベンチマーク用ツール、リスク評価、ストレステストの結果を収める公開リポジトリを作ることも支持しています。国際先端AI測定・評価・科学ネットワーク（NAAIMES）は、地域をまたいで評価手法と結果を比較しやすくし、利用しやすくする助けになる可能性があると記しました。
宣言はAI分野の各主体に責任を割り当てています。政策担当者には、国境を越える損害を含む大規模な被害について、法的責任を明確にするよう求めました。最先端モデルの開発者は、能力、限界、既知のリスクを開示し、適切な場合には資格を持つ独立機関の評価を支援すると約束しました。また、訓練中や内部利用時も含め、自らの管理下にある運用を制限、一時停止、停止するフェイルセーフ機構を使うとしています。安全策の除去や回避がもたらすリスク（「アブレーション」と呼ばれる手法を含む）を認める一方、研究、革新、安全性におけるオープンウェイト開発の利点も支持しました。継続的なリスク管理、新たな能力のリアルタイム監視、内部レッドチーミング、保護された通報経路、独立した監督も求めています。
第3の約束は、情報共有、報告、早期警戒です。署名者は既存のインシデント対応体制を活用した迅速な警報システムを設け、新たな脅威に対処して現実世界への影響を抑えるよう提唱しました。インシデントの分類をそろえ、重大なサイバーインシデントやAIの制御に関するインシデント、深刻な被害の兆候について、企業と政府が速やかに情報を共有する案も示しました。政策担当者は、従業員や関係者が法的・職業上の報復を恐れずにシステミックリスクを報告できる、安全で機密性の高い窓口を設けるとしています。