日本AISI、AI安全性の独自評価を2026年度内に完了へ
- •AISI、独自ベンチマークによるAI安全性評価を2026年度内に完了予定
- •村上所長、評価対象や公開範囲は検討中と説明
- •実装段階の安全性評価とサイバーセキュリティ専門機関との協力も視野
日本のAIセーフティ・インスティテュート（AISI）は、AIモデルの安全性を測る独自ベンチマークの評価を2026年度内に終える予定です。村上明子所長は、対象モデルやベンチマークをどこまで公開するかは検討中で、公開モデルを広く評価したい一方、全てを公開すると悪意ある利用者に評価手法を知られる恐れがあると説明しました。
2024年2月に発足したAISIは、関係省庁や海外の同種機関と連携し、AI安全性の基準や評価方法を整備しています。村上所長は10月7日の事業者らによる実証実験の成果共有会で、信頼できるAIの普及、AI分野の競争力強化、AI開発・普及に伴う国家安全上の脅威の抑止をAISIの目的として示しました。活動は、安全性の基準となるベンチマークの作成、モデルやシステムを自ら評価する能力の整備、AI関連情報の収集・分析・提供、国際協調の主導と国際競争力の強化の4つです。安全性に関する事例が次々に起きてから追いかけるだけでは間に合わず、実証実験の成果共有などを通じて先回りして議論する必要があると述べました。
AISIは英国AISIの評価ツール「Inspect」と公開ベンチマークを使った検証をすでに実施しています。今後は、多数のモデルを継続して評価する体制に加え、AIエージェントやフィジカルAIを想定した実装段階の安全性評価にも力を入れる方針です。ハーネスなどを含めて検証する考えですが、評価対象やベンチマークの公開範囲はまだ決まっていません。
相次ぐサイバー攻撃について、村上所長は10月7日の取材時点でAIが関与した証拠はないとしつつ、AIによって脆弱性の発見速度が上がっているのは事実だとの見解を示しました。攻撃側の速さに対抗するには、防御側もAIを活用する必要があると説明し、AIは人間を超える速度で24時間365日稼働できると述べました。AISI単独では攻撃対策に対応できないため、サイバーセキュリティの専門機関との協力を視野に入れています。インシデントでAIが使われたか外部から判別するのは難しく、報告には既存のサイバーセキュリティ・インシデント用の枠組みを使いながら、攻撃手法やAIの能力についてAISIも追う考えです。なお、記事は2026年10月15日公開と記載しています。なお、独自評価の完了目標は2026年度内です。なお、組織は2024年2月に発足しました。なお、取材は10月7日時点です。なお、評価対象は未確定です。なお、公開範囲も検討中です。なお、AI関与の証拠はないとしています。なお、協力先は専門機関です。なお、報告枠組みは既存のものです。なお、活動は4項目です。なお、目的は3点です。なお、評価はInspect等で実施済みです。なお、実装段階評価も予定しています。なお、AIは24時間365日働けるとの発言です。なお、速度が論点です。なお、公開モデルを広く対象にしたいとの考えです。なお、全公開には懸念があります。なお、詳細は以上です。