公共安全の要、AIの厳格な検証を専門家が要求
- •Milipol TechXの担当者は、ミッションクリティカルな公共安全環境に導入されるAIに対する厳格な検証を求めた。
- •FBIとシンガポールの当局者は、ディープフェイクやAI主導のサイバー脅威が国家安全保障を脅かしていると警告した。
- •シンガポールのHTXとResaroは、拡張可能でエアギャップ環境に対応したAI保証フレームワークを構築する革新合意書に署名した。
4月28日から30日にかけてシンガポールで開催されたMilipol TechXにおいて、政府や防衛のリーダーたちは、AIの組織的な検証が不可欠であると強調した。AIが重要な公共安全環境へ統合される中、アルゴリズムに説明責任を委ねることはできないという認識が示された。シンガポール民間防衛隊のダニエル・シート副長官は、リーダーとしての責務として、公共安全の担当者がAIの成果に対して個別に責任を負う必要があると述べた。
デジタルセキュリティの脅威が進化する中、攻撃と防御の両面でのAI活用が懸念を高めている。連邦捜査局(FBI)運用技術部門のカール・ロバート・シューマン副次官補は、AIが生成する合成メディア、特にディープフェイクが、選挙結果に影響を与えたり市民の信頼を損なったりする国家安全保障上のリスクになっていると警告した。これらの脅威は、重要インフラへの物理的攻撃と同等の重大な結果をもたらす可能性がある。
ガバナンスとエンジニアリングの乖離を埋めるため、シンガポールの内務省科学技術庁(HTX)とResaroは、戦略的イノベーションパートナーシップ(SPI)協定を締結した。この協力により、場当たり的なテストから構造化された拡張可能な保証フレームワークへと移行する。同協定は、2022年から続く協力関係を正式化するものであり、HTXは埋め込みAIや自律システムの研究成果を利用できるようになった。
ResaroのApproved Intelligence Platform(AIP)は、外部インターネットに接続しない「エアギャップ」環境でのシステムテストを可能にし、機密性の高い業務におけるセキュリティを確保する。このプラットフォームにより、技術者はAIシステムの性能、安全性、リスクを多角的に検証し、監査可能な結果を得ることができる。このようなツールは、公共安全業務を支えるAIの信頼性と透明性を確保し、高リスクな現場でリーダーが確実な意思決定を行うための証拠を提供する。