AI 에이전트로 업무 전 과정을 자동화하려는 기업에는 최신의 기업별 업무 정보가 필요합니다. 하지만 IT 책임자 79%는 현재 관측·분석 도구가 에이전트에 필요한 실시간 업무 가시성을 제공하지 못한다고 답했습니다. 한 제약회사는 규제가 적용되는 임상시험 절차에 관한 상세한 지식을 바탕으로 에이전트를 운영해 임상 업무를 신속하게 처리하고 있습니다. 현재 실제 업무가 어떻게 이뤄지는지 정확히 파악하지 못하면 에이전트는 낡거나 일반화된 모델에 따라 이미 사라진 ‘유령’ 절차를 자동화할 수 있습니다. 이 과정에서 토큰을 쓰고도 사업 가치를 만들지 못하는 행동을 할 수 있습니다.

사람들은 요청 승인이나 주문 발송 같은 업무를 전사적자원관리(ERP), 고객관계관리(CRM), 공급망 관리 시스템 등 기록 시스템에 남깁니다. AI 에이전트는 데이터에 접근하고 API를 호출해 여러 시스템의 행동을 연결하면서 공식 절차 단계 사이에서도 작동할 수 있습니다. 에이전트들이 공통 맥락을 공유하지 않으면 서로 다른 경로를 따르며 상충하는 결과를 낼 수 있습니다. 예를 들어 구매 에이전트가 규정 준수 검토 대상으로 표시된 공급업체를 승인할 수 있습니다. 눈에 띄지 않는 이런 ‘그림자’ 거래가 자동화 절차에 편입될 수도 있습니다. 에이전트는 업무 지식의 빈틈을 알아차리지 못할 수 있어 잘못 이해한 상태에서도 확신을 갖고 진행합니다. 절차 자체가 존재하지 않는다면 작업을 성공적으로 마친 것처럼 보여도 사업 가치는 전혀 없을 수 있습니다.

제안된 해결책은 컨텍스트 모델입니다. 이는 기업 시스템·애플리케이션·기기의 데이터에 업무 진행을 설명하는 행동과 상호작용을 더해 구성한, 기계가 읽을 수 있는 동적 디지털 트윈입니다. 여기에 업무 규칙과 핵심성과지표(KPI) 같은 조직별 지식, 그리고 사건이 발생한 이유와 앞으로 일어날 수 있는 일, 바람직한 조치를 파악하는 의사결정 지능을 결합합니다. 컨텍스트 모델은 애플리케이션을 이용하는 사람과 MCP 같은 프로토콜을 이용하는 AI에 현재 운영 상황을 보여줄 수 있습니다. 예를 들어 범용 대규모 언어 모델(LLM)은 수요 급증 뒤 자재 주문을 권할 수 있지만, 기업별 운영 데이터에서는 재고 부족 위험이 10%로 나타나고 남는 창고 재고를 재배분하는 방안이 더 적절할 수 있습니다.

운영 맥락이 있으면 기업은 존재하지 않는 절차를 자동화하는 에이전트를 찾아 개입할 수 있습니다. 또한 일부 행동에는 사람의 승인을 요구하고, 특정 결정에는 LLM의 확률적 답변 대신 결정론적 업무 규칙을 적용하는 안전장치를 마련해야 합니다. 어떤 통제가 필요한지는 오류가 초래할 재무·규제·운영 위험을 파악해야 결정할 수 있습니다. 기업은 에이전트의 활동을 살펴 업무 결과에 미친 영향을 평가하고 운영을 개선할 수도 있습니다. 글은 정확도만으로는 AI 투자 수익률(RoAI)을 보장할 수 없다고 주장합니다. 사업에 유용한 AI 활용처를 찾고 에이전트를 안내하며 행동을 보호하고 결과를 측정하려면 명확한 운영 맥락이 필요합니다.

AI 에이전트로 업무 전 과정을 자동화하려는 기업에는 최신의 기업별 업무 정보가 필요합니다. 하지만 IT 책임자 79%는 현재 관측·분석 도구가 에이전트에 필요한 실시간 업무 가시성을 제공하지 못한다고 답했습니다. 한 제약회사는 규제가 적용되는 임상시험 절차에 관한 상세한 지식을 바탕으로 에이전트를 운영해 임상 업무를 신속하게 처리하고 있습니다. 현재 실제 업무가 어떻게 이뤄지는지 정확히 파악하지 못하면 에이전트는 낡거나 일반화된 모델에 따라 이미 사라진 ‘유령’ 절차를 자동화할 수 있습니다. 이 과정에서 토큰을 쓰고도 사업 가치를 만들지 못하는 행동을 할 수 있습니다.

사람들은 요청 승인이나 주문 발송 같은 업무를 전사적자원관리(ERP), 고객관계관리(CRM), 공급망 관리 시스템 등 기록 시스템에 남깁니다. AI 에이전트는 데이터에 접근하고 API를 호출해 여러 시스템의 행동을 연결하면서 공식 절차 단계 사이에서도 작동할 수 있습니다. 에이전트들이 공통 맥락을 공유하지 않으면 서로 다른 경로를 따르며 상충하는 결과를 낼 수 있습니다. 예를 들어 구매 에이전트가 규정 준수 검토 대상으로 표시된 공급업체를 승인할 수 있습니다. 눈에 띄지 않는 이런 ‘그림자’ 거래가 자동화 절차에 편입될 수도 있습니다. 에이전트는 업무 지식의 빈틈을 알아차리지 못할 수 있어 잘못 이해한 상태에서도 확신을 갖고 진행합니다. 절차 자체가 존재하지 않는다면 작업을 성공적으로 마친 것처럼 보여도 사업 가치는 전혀 없을 수 있습니다.

제안된 해결책은 컨텍스트 모델입니다. 이는 기업 시스템·애플리케이션·기기의 데이터에 업무 진행을 설명하는 행동과 상호작용을 더해 구성한, 기계가 읽을 수 있는 동적 디지털 트윈입니다. 여기에 업무 규칙과 핵심성과지표(KPI) 같은 조직별 지식, 그리고 사건이 발생한 이유와 앞으로 일어날 수 있는 일, 바람직한 조치를 파악하는 의사결정 지능을 결합합니다. 컨텍스트 모델은 애플리케이션을 이용하는 사람과 MCP 같은 프로토콜을 이용하는 AI에 현재 운영 상황을 보여줄 수 있습니다. 예를 들어 범용 대규모 언어 모델(LLM)은 수요 급증 뒤 자재 주문을 권할 수 있지만, 기업별 운영 데이터에서는 재고 부족 위험이 10%로 나타나고 남는 창고 재고를 재배분하는 방안이 더 적절할 수 있습니다.

운영 맥락이 있으면 기업은 존재하지 않는 절차를 자동화하는 에이전트를 찾아 개입할 수 있습니다. 또한 일부 행동에는 사람의 승인을 요구하고, 특정 결정에는 LLM의 확률적 답변 대신 결정론적 업무 규칙을 적용하는 안전장치를 마련해야 합니다. 어떤 통제가 필요한지는 오류가 초래할 재무·규제·운영 위험을 파악해야 결정할 수 있습니다. 기업은 에이전트의 활동을 살펴 업무 결과에 미친 영향을 평가하고 운영을 개선할 수도 있습니다. 글은 정확도만으로는 AI 투자 수익률(RoAI)을 보장할 수 없다고 주장합니다. 사업에 유용한 AI 활용처를 찾고 에이전트를 안내하며 행동을 보호하고 결과를 측정하려면 명확한 운영 맥락이 필요합니다.