企業のAIエージェント、自律性に慎重姿勢

7月と8月に実施されたKPMGの調査によると、AIエージェントを構築、導入、または開発しているIT責任者は62％で、前四半期の53％から増えました。一方、多くの企業は、一次ITサポートのような基本的でリスクの低い業務を除き、社内業務を広く任せることに慎重です。ModelOpの最高技術責任者ジム・オルセンは、顧客への返金やクレジット付与など、権限を制限した自律運用はすでに使われているものの、近い将来に企業が無制限の権限を与えるとは考えていません。

オルセンは、個人がClawdbotやOpenClawにメールへの全面アクセスを与えた例をリスクとして挙げます。一部ではうまく機能しましたが、大きな危険にもさらされました。自律型ボットを、ソフトウェアがアクセスできる範囲を制限する管理環境である厳格なサンドボックスに置き、明確な方針を定めるよう勧めています。機密情報に触れない低リスク業務から自律性が認められ、信頼の向上に応じて利用範囲が広がる可能性があるといいます。IT責任者は、意図せずエージェントの権限が拡大する「自律性のずれ」も懸念しています。人による監督があっても、従業員に誤りを直す時間や権限があるとは限りません。オルセンは、APIゲートウェイ、OSレベルの強制措置、認証情報の管理を実行時の方針適用に使う方法として挙げる一方、企業には各エージェントと用途に結びついた、より一貫性のある戦略が必要だと述べています。

Barracuda Networksの最高情報責任者シロウイ・ムシェギアンによると、同社は約2,000体のエージェントを導入していますが、従業員はその動作を確認しています。「信頼しつつ検証する」方針のもと、一部のチケット処理自動化はほぼ自律運用に近づいています。それでも、監査対象となる業務などで人の責任をなくすことには、100％確信を持てないといいます。権限を拡大する前に求める証拠の量は、誤りがもたらす結果に応じて決めるべきだとしています。回答が文書化され、操作が限定され、誤りを容易に修正できる定型的なサポート依頼は、自律化の候補です。一方、アクセス権限や本番システムを変更するエージェントには適しません。同じ業務フロー内でも、一部の手順は自律実行し、影響の大きい判断には承認を求める形が可能です。

Taupiaの共同創業者兼最高技術責任者ジョシュア・ロウは、自律性は操作ごとに設定すべきで、エージェントがある手順を自力で進めても、別の手順では承認が必要になる場合があると述べています。データ収集、振り分け、文案作成、選択肢の比較といった、情報を読む作業では、ほぼ自律的な利用が進んでいるといいます。Taupiaはエネルギー契約を比較し、事業者の切り替えを準備するエージェントをテスト中ですが、変更が有効になる前に顧客が内容を確認し、承認する必要があります。取り消せない操作に権限を与えるかは、支出上限、待機期間、ロールバック、監査記録によって操作を取り消し可能または限定的にできるかによるとロウは説明します。契約への署名や口座間の資金移動など、元に戻せない操作には人の承認を残す考えです。

Textの最高技術責任者マチェイ・ワラシチクは、人が提供した知識を学習した顧客サービスエージェントなら、常時監督がなくても問い合わせに答えられると述べています。自律性は権限と結果の重大さに応じて設定し、部門全体を任せるのではなく、目標、境界、検証可能な成果を定めた個別の業務を委ねるよう勧めています。エージェントに与える権限は、代理する人の権限を超えるべきではありません。信頼には実際の監督と検証済みの成果が必要で、取り消せない操作や重大な結果を招く操作では人の確認が欠かせず、「AIがした」からといって責任が消えるわけではないとしています。

7月と8月に実施されたKPMGの調査によると、AIエージェントを構築、導入、または開発しているIT責任者は62％で、前四半期の53％から増えました。一方、多くの企業は、一次ITサポートのような基本的でリスクの低い業務を除き、社内業務を広く任せることに慎重です。ModelOpの最高技術責任者ジム・オルセンは、顧客への返金やクレジット付与など、権限を制限した自律運用はすでに使われているものの、近い将来に企業が無制限の権限を与えるとは考えていません。

オルセンは、個人がClawdbotやOpenClawにメールへの全面アクセスを与えた例をリスクとして挙げます。一部ではうまく機能しましたが、大きな危険にもさらされました。自律型ボットを、ソフトウェアがアクセスできる範囲を制限する管理環境である厳格なサンドボックスに置き、明確な方針を定めるよう勧めています。機密情報に触れない低リスク業務から自律性が認められ、信頼の向上に応じて利用範囲が広がる可能性があるといいます。IT責任者は、意図せずエージェントの権限が拡大する「自律性のずれ」も懸念しています。人による監督があっても、従業員に誤りを直す時間や権限があるとは限りません。オルセンは、APIゲートウェイ、OSレベルの強制措置、認証情報の管理を実行時の方針適用に使う方法として挙げる一方、企業には各エージェントと用途に結びついた、より一貫性のある戦略が必要だと述べています。

Barracuda Networksの最高情報責任者シロウイ・ムシェギアンによると、同社は約2,000体のエージェントを導入していますが、従業員はその動作を確認しています。「信頼しつつ検証する」方針のもと、一部のチケット処理自動化はほぼ自律運用に近づいています。それでも、監査対象となる業務などで人の責任をなくすことには、100％確信を持てないといいます。権限を拡大する前に求める証拠の量は、誤りがもたらす結果に応じて決めるべきだとしています。回答が文書化され、操作が限定され、誤りを容易に修正できる定型的なサポート依頼は、自律化の候補です。一方、アクセス権限や本番システムを変更するエージェントには適しません。同じ業務フロー内でも、一部の手順は自律実行し、影響の大きい判断には承認を求める形が可能です。

Taupiaの共同創業者兼最高技術責任者ジョシュア・ロウは、自律性は操作ごとに設定すべきで、エージェントがある手順を自力で進めても、別の手順では承認が必要になる場合があると述べています。データ収集、振り分け、文案作成、選択肢の比較といった、情報を読む作業では、ほぼ自律的な利用が進んでいるといいます。Taupiaはエネルギー契約を比較し、事業者の切り替えを準備するエージェントをテスト中ですが、変更が有効になる前に顧客が内容を確認し、承認する必要があります。取り消せない操作に権限を与えるかは、支出上限、待機期間、ロールバック、監査記録によって操作を取り消し可能または限定的にできるかによるとロウは説明します。契約への署名や口座間の資金移動など、元に戻せない操作には人の承認を残す考えです。

Textの最高技術責任者マチェイ・ワラシチクは、人が提供した知識を学習した顧客サービスエージェントなら、常時監督がなくても問い合わせに答えられると述べています。自律性は権限と結果の重大さに応じて設定し、部門全体を任せるのではなく、目標、境界、検証可能な成果を定めた個別の業務を委ねるよう勧めています。エージェントに与える権限は、代理する人の権限を超えるべきではありません。信頼には実際の監督と検証済みの成果が必要で、取り消せない操作や重大な結果を招く操作では人の確認が欠かせず、「AIがした」からといって責任が消えるわけではないとしています。