企業でのAIエージェント導入、幹部が教訓共有
- •ニューヨークのAIフォーラムで、企業へのAIエージェント導入について幹部2人が教訓を共有
- •デビッド・ジャンブルーノ氏のチームでは、エージェント数を1人あたり5体から約2体に削減
- •エージェント型のソフトウェア開発システムは55日間に101回リリースし、改善コードの97%を自ら作成
ニューヨークで開かれたConstellation ResearchのAIフォーラムで、Ancillaのデビッド・ジャンブルーノ氏とCity Strategies LLCのミネルバ・タントコ氏が、企業でAIエージェントを導入する際の教訓を共有しました。自動化や拡大に先立ち、適切な目標を選ぶよう促し、タントコ氏は誤った目標を最適化すると、悪い判断が素早く大規模に実行される恐れがあると警告しました。
ジャンブルーノ氏は、確率的な大規模言語モデルに頼る前に、予測可能な結果を出す決定論的なコードを使うよう助言しました。決定論的コードは作成費用が安く、監査もしやすいといいます。また、既存のSystems of Record（業務上の正式な記録を管理するシステム）を維持してエージェントを接続するよう勧めました。中核となる記録を作り直すと監査が複雑になるためです。タントコ氏は、規制対象の業務など重要な判断では担当者を明確にし、人間の判断が必要な作業をチームで先に見極めるべきだと述べました。
モデルの耐障害性を高めるため、ジャンブルーノ氏は複数のモデルに相互確認させ、意見が食い違えば人に回し、モデルを交換可能にする方法を推奨しました。エージェントには範囲の狭い明確な作業を与えるべきだとし、自身のチームでは現在、1人あたり約2体を運用しています。以前の5体から減らした形です。ガバナンス、オーケストレーション、ポリシーはプラットフォーム全体で定め、多くの場合Google CloudやAWSなどの大規模クラウド事業者を通じて設定すると説明しました。
ジャンブルーノ氏とタントコ氏は、エージェントが人々の監視・読解能力を超える量の信号や文章を生み出す可能性を指摘しました。人間による承認を繰り返すと、判断力が弱まる恐れもあると述べました。ジャンブルーノ氏は、エージェント向けのAIソフトウェア開発ライフサイクルを構築するよう勧めました。あるエージェント型システムは55日間に101回リリースし、改善に使われたコードの97%を自ら作成したといいます。一方、AIの技能は長続きしない可能性があり、技能ベースのシステムは技術的負債の源になると警告しました。
さらに、組織全体のつながりを理解するAIエージェント管理者を置くよう提案しました。例として、コードを書いた経験はないものの、社内システムを把握していた品質保証担当者を挙げました。ジャンブルーノ氏は、エージェント型AIが将来「企業の脳」へと進化し、AI同士のやり取りを中心に企業情報を統合することで、組織の運営や構造を変えると予測しました。