Orange Business、全社AI基盤を12万人に展開
- •Orange BusinessがLive Intelligenceを従業員12万人に展開し、フランスと欧州の150社超が導入
- •約20社を比較しLangChainとLangSmithを選定、同等の基盤を内製すれば12〜18カ月遅れる恐れ
- •エージェント開発、業務担当者向け管理機能、評価・監視、全社レジストリを統合
Orange Groupの法人向け部門Orange Businessは、AIプラットフォーム「Live Intelligence」を従業員12万人に展開し、フランスと欧州の150社を超える顧客が導入しています。同社はLangChainとLangSmithを使って「Live Intelligence Studio」を構築しました。企業向けエージェントに必要なオーケストレーション、導入、監視、可観測性の基盤を一から開発すれば、1年以上かかると見積もったためです。Orange Innovationはクラウド事業者と専門AI企業を約20社評価しました。モデルを限定せず、移植しやすい点を評価してLangChainを選び、エージェント構成の主導権を保ちながら欧州のデータ主権要件に沿って処理を管理できるようにしました。評価と可観測性にはLangSmithを採用しました。Orange BusinessのAI製品責任者マチュー・デュクロ(Mathieu Ducrot)氏は、同等の可観測性を社内で構築していれば、ロードマップが12〜18カ月遅れた可能性が高いと述べています。
Live Intelligenceは3つの機能で構成されます。StudioではAIエンジニアやエージェント開発者が、企業システムをまたぐワークフローを設計できます。Orangeのインフラやパブリッククラウドで稼働する言語モデルのカタログ、LangSmith Fleetを基盤とするエージェント作成機能、MCP対応、LangSmithの可観測性・オーケストレーションツールを備えています。Portalは業務担当者向けの管理された画面で、人事部門による求人票の作成、法務部門による秘密保持契約の条項確認、ソフトウェア部門によるテストスクリプト生成、ヘルプデスクによるIT支援エージェントの構築などに使えます。Studioで作成したワークフローはPortalに展開できます。Consoleでは管理者が利用状況と性能を監視し、セキュリティやコンプライアンスの方針を適用します。
組織全体の管理を支えるレジストリは2つあります。Agent Registryではチームがエージェントやプロンプトを検索、再利用、版管理し、統制できます。OrangeはLangSmith Context Hubで環境ごとのプロンプトの版を管理し、コードを変更せず、本番環境への適用前に変更をテストしています。MCP Registryは、信頼できるツール、コネクター、外部機能を集約したカタログです。エージェントはこの管理・監査可能な仕組みを通じて、Microsoft 365、顧客管理システム(CRM)、社内API、独自サービスに接続します。これにより業務ロジックをプロンプトから切り離し、各チームが認証、セキュリティ、ガバナンスを個別に作り直す必要を減らします。
OrangeはLangSmithを使い、本番環境で3層の評価を行っています。検索拡張生成(RAG)の品質確認では、質問と回答のデータセット、期待される参照文書、検索再現率、根拠との整合性、回答の忠実性を調べます。エージェントの動作確認では、ツール選択、タスク完了、拒否、プロンプトインジェクションへの耐性、業務上の制約を確認します。本番の実行記録の監視では、遅延、コスト、モデル利用状況、実行失敗、人間からのフィードバック、担当者への引き継ぎを追跡します。エンジニアは実行手順を調べ、問題が検索、プロンプト、モデル、ツール呼び出し、業務ロジックのどこで起きたかを特定できます。チームは実行記録と評価結果を共有し、エージェントの版を比較し、過去の実行を再生して、本番展開前に回帰評価を行います。良い動作と悪い動作の例からデータセットを作り、オフライン評価や継続的なプロンプト改善にも利用しています。
このプラットフォームにより、エンジニアと分野の専門家が共通のワークフローを使ってエージェントを開発・改善でき、運用効率が向上したとOrangeは説明しています。デュクロ氏によると、技術チームがアプリケーションとエージェントのワークフローを担当し、業務チームもプロンプト改善や品質評価に参加しています。Orangeはオンライン評価にも共同作業を広げる計画です。さらに、顧客管理システムや法務システムと連携して保険金請求の全工程を支援するエージェントや、港のセンサーを監視し、現場技術者の緊急対応を支援するエージェントなど、複雑な業務プロセスにも取り組んでいます。