CIOが警告するAIエージェントの権限拡大

組織がAIエージェントの業務や権限を広げ、人の承認を省いて例外処理まで自動化すると、最高情報責任者（CIO）が想定した以上の権限をエージェントが持つ恐れがあります。パット・ブランズ(Pat Brans)が2026年10月21日に公開した記事は、この現象を「自律性の逸脱」と呼び、エージェントが提案から実行へ移るにつれて、企業がその能力の変化を管理する必要があると指摘しました。

RSAの社長兼最高製品・戦略責任者ジム・テイラー(Jim Taylor)によると、特定の目的で作られたエージェントも、業務範囲の拡大に伴って権限が積み重なり、過剰なデータや機能にアクセスできるようになる場合があります。役割の変更や終了時に権限を戻すライフサイクル手順は、従業員の場合と異なり、エージェントには整っていないことがあります。1Passwordの最高技術責任者ナンシー・ワン(Nancy Wang)は、エージェントの実質的な権限が広がるたびに新たな認可境界が生じると述べました。技術的にシステムへアクセスしたり取引を実行したりできても、組織がそれを許可すべきとは限りません。

適切に機能するシステムでも、人の監督が弱まることがあります。NatWest Groupでは、エージェントが苦情処理に必要な情報を集め、苦情を認めるか退けるかの最終判断は人が担っています。同行の責任あるAI・AI戦略責任者ポール・ドンガ(Paul Dongha)は、システムが繰り返し高い成果を出すと、審査担当者が承認を形式的な作業とみなす恐れがあると警告しました。NatWestは十分に高い性能が確認された場合、確認を減らすことがありますが、ドンガによると、その判断には関係者やリスク管理担当者が加わり、その後も監視が続きます。人が実質的な判断をやめて追認に回り、エージェントの権限を見直さないまま手順から離れることが警戒すべき兆候です。

ワンは「検証ループ」を提案しています。作業を始める前に、人がエージェントの任務、使用を認めるツール、完了を示す証拠、禁止行為を定め、別の検証役が証拠を方針と照合します。重大なリスクに対する制限は、モデルの外側でも強制する必要があります。テイラーはモデル内の安全策だけでは不十分だとし、本人確認に基づく方針、権限の付与と終了の手順、ガバナンス、監視、システムアテステーションを含む企業統制を求めました。

テイラーは、権限が変わるたびにエージェントのアクセスを継続的に再評価し、定期審査だけに頼らないよう勧めています。たとえば別のデータベースへのアクセスが加わった際、それが適切か、危険な権限の組み合わせを生まないかを確認できます。ワンは業務ごとの認可を支持し、常時有効なアクセスや長期間使える認証情報の代わりに、実行時に短期間だけ有効な認証情報を発行するよう提案しました。テイラーは各エージェントを責任者の識別情報、目的、所有者に結び付け、作成者の異動や退職時には所有者を引き継ぐべきだと述べています。ドンガによると、業務プロセスに組み込まれたAIの責任は事業部門の所有者が負い、IT部門は基盤と統制を担います。

複数のエージェントが連携すると、個別には許可された行動が組み合わさり、意図しない結果につながる場合があります。ドンガは、各エージェントだけでなくネットワーク全体を検証する必要があると述べました。NatWestは、認可された利用者がエージェント群やエージェント間のメッセージ、やり取りに適用される安全策を確認できる「AIコントロールタワー」の構築を進めています。ドンガは、複数エージェントのガバナンスは未解決の新たな課題だと説明しました。ワンは、必要に応じて編成されるエージェントチームについて、セッション内でどのエージェントが各判断を行い、行動がどう伝播したかを記録する必要があると付け加えました。導入前にCIOは、所有者、実行可能な業務、権限の上限、範囲変更の検知方法、人の判断を要する行動を明確にすべきだとテイラーは述べています。ドンガは、AIシステムの構築時からガバナンスを組み込む必要があるとしています。

組織がAIエージェントの業務や権限を広げ、人の承認を省いて例外処理まで自動化すると、最高情報責任者（CIO）が想定した以上の権限をエージェントが持つ恐れがあります。パット・ブランズ(Pat Brans)が2026年10月21日に公開した記事は、この現象を「自律性の逸脱」と呼び、エージェントが提案から実行へ移るにつれて、企業がその能力の変化を管理する必要があると指摘しました。

RSAの社長兼最高製品・戦略責任者ジム・テイラー(Jim Taylor)によると、特定の目的で作られたエージェントも、業務範囲の拡大に伴って権限が積み重なり、過剰なデータや機能にアクセスできるようになる場合があります。役割の変更や終了時に権限を戻すライフサイクル手順は、従業員の場合と異なり、エージェントには整っていないことがあります。1Passwordの最高技術責任者ナンシー・ワン(Nancy Wang)は、エージェントの実質的な権限が広がるたびに新たな認可境界が生じると述べました。技術的にシステムへアクセスしたり取引を実行したりできても、組織がそれを許可すべきとは限りません。

適切に機能するシステムでも、人の監督が弱まることがあります。NatWest Groupでは、エージェントが苦情処理に必要な情報を集め、苦情を認めるか退けるかの最終判断は人が担っています。同行の責任あるAI・AI戦略責任者ポール・ドンガ(Paul Dongha)は、システムが繰り返し高い成果を出すと、審査担当者が承認を形式的な作業とみなす恐れがあると警告しました。NatWestは十分に高い性能が確認された場合、確認を減らすことがありますが、ドンガによると、その判断には関係者やリスク管理担当者が加わり、その後も監視が続きます。人が実質的な判断をやめて追認に回り、エージェントの権限を見直さないまま手順から離れることが警戒すべき兆候です。

ワンは「検証ループ」を提案しています。作業を始める前に、人がエージェントの任務、使用を認めるツール、完了を示す証拠、禁止行為を定め、別の検証役が証拠を方針と照合します。重大なリスクに対する制限は、モデルの外側でも強制する必要があります。テイラーはモデル内の安全策だけでは不十分だとし、本人確認に基づく方針、権限の付与と終了の手順、ガバナンス、監視、システムアテステーションを含む企業統制を求めました。

テイラーは、権限が変わるたびにエージェントのアクセスを継続的に再評価し、定期審査だけに頼らないよう勧めています。たとえば別のデータベースへのアクセスが加わった際、それが適切か、危険な権限の組み合わせを生まないかを確認できます。ワンは業務ごとの認可を支持し、常時有効なアクセスや長期間使える認証情報の代わりに、実行時に短期間だけ有効な認証情報を発行するよう提案しました。テイラーは各エージェントを責任者の識別情報、目的、所有者に結び付け、作成者の異動や退職時には所有者を引き継ぐべきだと述べています。ドンガによると、業務プロセスに組み込まれたAIの責任は事業部門の所有者が負い、IT部門は基盤と統制を担います。

複数のエージェントが連携すると、個別には許可された行動が組み合わさり、意図しない結果につながる場合があります。ドンガは、各エージェントだけでなくネットワーク全体を検証する必要があると述べました。NatWestは、認可された利用者がエージェント群やエージェント間のメッセージ、やり取りに適用される安全策を確認できる「AIコントロールタワー」の構築を進めています。ドンガは、複数エージェントのガバナンスは未解決の新たな課題だと説明しました。ワンは、必要に応じて編成されるエージェントチームについて、セッション内でどのエージェントが各判断を行い、行動がどう伝播したかを記録する必要があると付け加えました。導入前にCIOは、所有者、実行可能な業務、権限の上限、範囲変更の検知方法、人の判断を要する行動を明確にすべきだとテイラーは述べています。ドンガは、AIシステムの構築時からガバナンスを組み込む必要があるとしています。