Cohere、AIエージェントの増加を管理する競争方式を提案
- •Cohere、企業内のAIエージェント増加を管理するため、根拠に基づいて競わせる方式を提案
- •銀行の例では、既存と対抗するエージェントを30日間、メモ当たりのトークン費用など4指標で比較
- •結果に応じ、対抗エージェントへの置き換え、廃止、融資業務ごとの併用を判断
Cohereは、従業員が自分の業務向けにAIエージェントを構築・導入するようになる中、企業には増え続けるエージェントを管理する方法が必要だと述べています。全体像を共有できなければ、チームは既存のエージェントを見つけて再利用しにくくなり、社内データやシステムへのアクセス管理も難しくなります。作成の速さに管理が追いつかない状態を、Cohereは「エージェントの乱立」と呼びます。
分散型の試行では、業務をよく知る従業員が用途に合ったエージェントを作り、有用なものを他チームと共有できます。エージェントの数が増えても、使われていないものは存在するだけで推論費用を発生させません。負担が生じるのは監督が追いつかない場合です。Cohereによると、企業の運用方式には、中央のAI・エンジニアリングチームが構築と管理を担う集中型、各チームが開発と運用を担い中央組織が共通基盤と管理手法を支える連邦型、そして両者を組み合わせる方式があります。
組織は、所有者、利用状況、アクセス権限を記録し、従業員が既存のエージェントを探せるようにする登録簿も導入しています。再利用は重複する選択肢や監視対象を減らしますが、重複を一律に禁じると、より安価で信頼性が高く、業務に適した代替手段を妨げるおそれがあります。Cohereは、改善の根拠を示せるチームに対抗エージェントの構築を認め、既存のものより優れているという証拠がある場合に継続利用する案を提案しています。
比較期間を定め、信頼性、トークン使用量、遅延時間、業務の遂行度など、仕事に合った指標で評価します。十分な証拠が集まった後、組織は既存エージェントを置き換えるか、対抗側を廃止するか、担当業務に応じて両方を残すかを決めます。Cohereは、銀行の法人融資部門を例に挙げています。中央チームの金融エージェントが信用審査メモを作成する一方、融資チームはより小型で安価なモデルを使い、数値を原資料と照合する工程を加えた対抗エージェントを作ります。
銀行は30日間、年次審査のような定型案件から複雑な融資まで、両方のエージェントを試します。原資料まで正しくたどれる数値の割合、融資担当者が草稿に加える修正の量、メモ1件当たりのトークン費用、初稿ができるまでの時間を比べます。品質が同程度で費用を大幅に下げられる対抗側は既存のものと入れ替え、明確な優位性がなければ廃止します。定型審査では対抗側が優れ、複雑な融資では既存側が優れる場合は、それぞれ得意な業務に割り当てて併用します。Cohereの提案は、エージェントを作りやすくしつつ、比較結果に基づいて継続利用を決めることです。