Orange Group의 기업 간 거래 부문인 Orange Business가 Live Intelligence AI 플랫폼을 직원 12만 명에게 배포했으며, 프랑스와 유럽의 고객 150곳 이상이 도입했습니다. Orange Innovation은 클라우드 사업자와 전문 AI 업체 약 20곳을 평가한 뒤 LangChain과 LangSmith를 선택했습니다. 기업용 에이전트의 조정, 배포, 모니터링, 가관측성 인프라를 처음부터 자체 개발하면 1년 넘게 걸릴 것으로 판단했기 때문입니다. Orange Business의 AI 제품 책임자 마티외 뒤크로(Mathieu Ducrot)는 비슷한 가관측성을 자체 구축했다면 로드맵이 12~18개월 늦어졌을 가능성이 있다고 밝혔습니다. LangChain은 특정 모델에 종속되지 않고 다른 환경으로 옮길 수 있어 에이전트 구조에 대한 통제권과 유럽 데이터 주권 요건에 맞춘 업무 관리를 지원합니다. Orange는 평가와 가관측성 기능에 LangSmith를 채택했습니다.

Live Intelligence는 세 부분으로 구성됩니다. Studio에서는 AI 엔지니어와 에이전트 개발자가 기업 시스템 전반의 업무 흐름을 설계하며, Orange 인프라와 공용 클라우드에서 운영되는 언어 모델 목록, LangSmith Fleet 기반 에이전트 제작 도구, MCP 지원, LangSmith의 가관측성·조정 도구를 이용합니다. Portal은 인사팀의 직무기술서 초안 작성, 법무팀의 비밀유지계약 조항 검토, 소프트웨어팀의 테스트 스크립트 생성, 헬프데스크의 IT 지원 에이전트 구축 등을 위한 관리형 업무 화면입니다. Studio에서 만든 업무 흐름은 Portal에 배포할 수 있습니다. Console은 관리자가 사용량과 성능을 살피고 보안·규정 준수 정책을 적용하는 기능을 제공합니다.

조직 전체의 관리를 위해 두 개의 등록부도 운영합니다. Agent Registry에서는 팀이 에이전트와 프롬프트를 찾아 재사용하고, 버전을 관리하며 통제할 수 있습니다. Orange는 LangSmith Context Hub로 환경별 프롬프트 버전을 관리하고, 코드를 바꾸지 않은 채 운영 반영 전에 변경 사항을 시험합니다. MCP Registry는 신뢰할 수 있는 도구, 연결기, 외부 기능을 모아 둔 중앙 목록입니다. 에이전트는 이 통제·감사 가능한 계층을 통해 Microsoft 365, 고객관계관리 시스템, 내부 API, 자체 서비스에 접근합니다. 이에 따라 업무 로직을 프롬프트 밖에서 관리하고, 각 팀이 인증·보안·관리 체계를 따로 다시 만들 필요를 줄입니다.

Orange는 LangSmith로 운영 단계의 평가를 세 층위에서 수행합니다. 검색 증강 생성(RAG) 품질 점검에는 질문·답변 데이터셋, 기대 출처 문서, 검색 재현율, 근거 일치도, 답변의 충실도 검사가 포함됩니다. 에이전트 행동 점검은 도구 선택, 작업 완료, 거부, 프롬프트 인젝션 대응력, 업무상 제약 준수 여부를 확인합니다. 운영 추적 모니터링은 지연시간, 비용, 모델 사용량, 실패한 실행, 사람의 피드백과 담당자 이관을 기록합니다. 엔지니어는 실행 단계를 살펴 문제가 검색, 프롬프트, 모델, 도구 호출 또는 업무 로직 중 어디에서 생겼는지 찾을 수 있습니다. 팀은 실행 기록과 평가 결과를 공유하고, 에이전트 버전을 비교하며, 과거 실행 기록을 재생하고, 운영 배포 전 회귀 평가를 진행합니다. 또한 좋은 에이전트 행동과 나쁜 행동의 사례로 데이터셋을 만들어 오프라인 평가와 지속적인 프롬프트 개선에 씁니다.

이 플랫폼은 엔지니어와 분야 전문가가 에이전트를 함께 개발하고 개선하는 업무 흐름을 제공해 운영 효율을 높였습니다. 뒤크로는 기술팀이 애플리케이션과 에이전트 업무 흐름을 맡고, 사업팀은 프롬프트 개선과 품질 평가에 참여한다고 말했습니다. Orange는 온라인 평가까지 협업을 확대할 계획이며, CRM·법무 시스템을 연동해 보험금 청구 전 과정을 지원하는 에이전트와 항만 보안 센서를 살펴 현장 엔지니어의 긴급 대응을 지원하는 에이전트 등 더 복잡한 업무를 개발하고 있습니다.

Orange Group의 기업 간 거래 부문인 Orange Business가 Live Intelligence AI 플랫폼을 직원 12만 명에게 배포했으며, 프랑스와 유럽의 고객 150곳 이상이 도입했습니다. Orange Innovation은 클라우드 사업자와 전문 AI 업체 약 20곳을 평가한 뒤 LangChain과 LangSmith를 선택했습니다. 기업용 에이전트의 조정, 배포, 모니터링, 가관측성 인프라를 처음부터 자체 개발하면 1년 넘게 걸릴 것으로 판단했기 때문입니다. Orange Business의 AI 제품 책임자 마티외 뒤크로(Mathieu Ducrot)는 비슷한 가관측성을 자체 구축했다면 로드맵이 12~18개월 늦어졌을 가능성이 있다고 밝혔습니다. LangChain은 특정 모델에 종속되지 않고 다른 환경으로 옮길 수 있어 에이전트 구조에 대한 통제권과 유럽 데이터 주권 요건에 맞춘 업무 관리를 지원합니다. Orange는 평가와 가관측성 기능에 LangSmith를 채택했습니다.

Live Intelligence는 세 부분으로 구성됩니다. Studio에서는 AI 엔지니어와 에이전트 개발자가 기업 시스템 전반의 업무 흐름을 설계하며, Orange 인프라와 공용 클라우드에서 운영되는 언어 모델 목록, LangSmith Fleet 기반 에이전트 제작 도구, MCP 지원, LangSmith의 가관측성·조정 도구를 이용합니다. Portal은 인사팀의 직무기술서 초안 작성, 법무팀의 비밀유지계약 조항 검토, 소프트웨어팀의 테스트 스크립트 생성, 헬프데스크의 IT 지원 에이전트 구축 등을 위한 관리형 업무 화면입니다. Studio에서 만든 업무 흐름은 Portal에 배포할 수 있습니다. Console은 관리자가 사용량과 성능을 살피고 보안·규정 준수 정책을 적용하는 기능을 제공합니다.

조직 전체의 관리를 위해 두 개의 등록부도 운영합니다. Agent Registry에서는 팀이 에이전트와 프롬프트를 찾아 재사용하고, 버전을 관리하며 통제할 수 있습니다. Orange는 LangSmith Context Hub로 환경별 프롬프트 버전을 관리하고, 코드를 바꾸지 않은 채 운영 반영 전에 변경 사항을 시험합니다. MCP Registry는 신뢰할 수 있는 도구, 연결기, 외부 기능을 모아 둔 중앙 목록입니다. 에이전트는 이 통제·감사 가능한 계층을 통해 Microsoft 365, 고객관계관리 시스템, 내부 API, 자체 서비스에 접근합니다. 이에 따라 업무 로직을 프롬프트 밖에서 관리하고, 각 팀이 인증·보안·관리 체계를 따로 다시 만들 필요를 줄입니다.

Orange는 LangSmith로 운영 단계의 평가를 세 층위에서 수행합니다. 검색 증강 생성(RAG) 품질 점검에는 질문·답변 데이터셋, 기대 출처 문서, 검색 재현율, 근거 일치도, 답변의 충실도 검사가 포함됩니다. 에이전트 행동 점검은 도구 선택, 작업 완료, 거부, 프롬프트 인젝션 대응력, 업무상 제약 준수 여부를 확인합니다. 운영 추적 모니터링은 지연시간, 비용, 모델 사용량, 실패한 실행, 사람의 피드백과 담당자 이관을 기록합니다. 엔지니어는 실행 단계를 살펴 문제가 검색, 프롬프트, 모델, 도구 호출 또는 업무 로직 중 어디에서 생겼는지 찾을 수 있습니다. 팀은 실행 기록과 평가 결과를 공유하고, 에이전트 버전을 비교하며, 과거 실행 기록을 재생하고, 운영 배포 전 회귀 평가를 진행합니다. 또한 좋은 에이전트 행동과 나쁜 행동의 사례로 데이터셋을 만들어 오프라인 평가와 지속적인 프롬프트 개선에 씁니다.

이 플랫폼은 엔지니어와 분야 전문가가 에이전트를 함께 개발하고 개선하는 업무 흐름을 제공해 운영 효율을 높였습니다. 뒤크로는 기술팀이 애플리케이션과 에이전트 업무 흐름을 맡고, 사업팀은 프롬프트 개선과 품질 평가에 참여한다고 말했습니다. Orange는 온라인 평가까지 협업을 확대할 계획이며, CRM·법무 시스템을 연동해 보험금 청구 전 과정을 지원하는 에이전트와 항만 보안 센서를 살펴 현장 엔지니어의 긴급 대응을 지원하는 에이전트 등 더 복잡한 업무를 개발하고 있습니다.