AIエージェント連携、責任の所在に課題
- •Gartnerは、Fortune 500企業が運用するAIエージェントは2028年に平均15万超となり、2025年の15未満から増えると予測
- •調査回答者360人のうち、適切なガバナンス体制があると答えたのは13%にとどまる
- •Apply Digitalのアリ・アルカファジCEOは、人間の責任者の明示、引き継ぎ記録、判断と入力を記す監査ログを提言
Gartnerは、世界のFortune 500企業が運用するAIエージェント（業務を自律的に進めるAI）は、2028年に平均15万超となり、2025年の15未満から増えると予測しています。同じ報告書によると、調査に回答した360人のうち、組織に適切なガバナンス体制があると答えたのは13%でした。企業が業務の流れをまたいでエージェントを連携させると、損害につながる出力の責任者を特定しにくくなる場合があります。1月1日に施行されたカリフォルニア州法は、被告がAIエージェントの自律的な動作を責任追及への抗弁に使うことを禁じています。
Apply Digitalの最高経営責任者（CEO）、アリ・アルカファジは、何体のエージェントが出力に関与したかにかかわらず、導入前に各システム出力の担当者を人間の中から明示すべきだと述べています。同社は顧客との取り組みを、少なくとも50%のエージェントが人間の実務担当者と「マトリクスチーム」で働く形で始めます。出力の責任者を名指しできない組織は、システムを導入する準備ができていないとしています。
アルカファジは、エージェント間の引き継ぎを慎重に設計する必要があると指摘します。初期段階の判断によって後続のエージェントが得られる情報が限られ、人間が確認する前に誤りが積み重なるおそれがあるためです。同社のチームは、作業とともに背景情報を渡す「円滑な引き継ぎ」を採用しています。引き継ぎ記録には、エージェントの目的、アクセスできたデータ、確信度、実行した行動の少なくとも4項目を含めます。この記録があれば、人間は手順を一から再構成せずに対応を判断できます。
アルカファジは、監査証跡には最終出力だけでなく、判断に至る過程も記録すべきだと主張します。同社のチームは導入前に、エージェント間の各境界で記録する入力、確信度の指標、行動、引き継ぎを定めます。記録がなければ、事故の検証は推測に頼ることになり、信頼の低下、数カ月後に判明する法令順守の不備、責任者を追跡できない判断として問題が徐々に表面化する可能性があります。アルカファジはIT責任者に、稼働中のエージェント業務を洗い出して各出力の担当者を決めること、各境界の引き継ぎ手順を文書化すること、ログに入力や確信度の指標、判断過程、最終出力が含まれるか確認することを促しています。事故後に監査基盤を追加する費用は、最初から構築する場合より大幅に高くなると述べています。