Couchbase, 에이전트 데이터 기반의 필요성 강조
- •Couchbase의 팀 핀리는 기업 데이터가 AI에 업무 맥락을 제공해 결과의 관련성을 높이고 불필요한 모델 호출을 줄일 수 있다고 밝혔습니다.
- •핀리는 자율 에이전트가 웹 트래픽의 60%를 넘고, 같은 작업을 하는 사람보다 네트워크 트래픽을 450% 더 만든다는 분석을 인용했습니다.
- •Couchbase는 의미론적 캐싱 시험에서 LLM 호출을 40~60% 줄였으며, 약 110개의 도구와 기술을 검토 중이라고 밝혔습니다.
2026년 11월 17일 공개된 인터뷰에서 Couchbase의 팀 핀리는 Constellation Research의 홀거 뮐러에게 기업 데이터가 AI 시스템에 업무 맥락을 제공해 회사별로 더 관련성 높은 결과를 만들 수 있다고 말했습니다. 같은 AI 모델을 쓰더라도 고객, 운영, 사업 지식을 반영하면 결과의 관련성을 높일 수 있다는 설명입니다. 불필요한 모델 호출을 피하면 비용도 줄일 수 있다고 덧붙였습니다.
핀리는 AI 사용이 간헐적인 프롬프트에서 상시 작동하는 에이전트로 옮겨가면서 비용 부담이 커진다고 말했습니다. 그는 Cloudflare 분석에서 자율 에이전트와 기계가 웹 트래픽의 60%를 넘었으며, 이는 예상보다 18개월 앞선 수치라고 인용했습니다. Cisco 연구에 따르면 에이전트는 같은 작업을 수행하는 사람보다 네트워크 트래픽을 450% 더 발생시켰습니다. 핀리는 에이전트 작업이 늘어날 때 조직이 고려해야 할 인프라 수요의 근거로 이 수치를 들었습니다.
핀리는 Couchbase의 접근 방식이 확장 가능한 JSON 데이터베이스와 SQL 기능을 결합한 통합 데이터 플랫폼이라고 설명했습니다. AI 관련 투자에는 벡터 검색, 모델 서비스, LLM 기능, 의미론적 캐싱, 에이전트 메모리가 포함됩니다. Amazon Bedrock과의 연동에서 Couchbase의 시험 결과 의미론적 캐싱은 LLM 호출을 약 40~60% 줄였습니다. 호출 감소는 성능이 좋은 모델을 계속 이용하면서 비용과 지연 시간을 낮추는 데 도움이 될 수 있다고 회사는 설명했습니다.
핀리에 따르면 Couchbase는 6월 AI Data Plane을 출시했으며, 이 플랫폼은 모델 서비스와 에이전트 메모리, 에이전트 카탈로그를 한데 모았습니다. 그는 일반 공개 후 몇 주 안에 여러 에이전트를 실제 환경에 배치한 초기 고객 사례도 언급했습니다. 고객들이 Couchbase의 Model Context Protocol(MCP) 제공 기능에 큰 관심을 보였으며, 회사는 현장 엔지니어가 개발한 도구와 기술 약 110개를 향후 출시 대상으로 검토하고 있다고 말했습니다. 데이터 기능을 에이전트가 더 쉽게 쓰도록 하는 도구는 에이전트와 함께 일하는 사람에게도 도움이 될 수 있다고 핀리는 덧붙였습니다.
에이전트 활동이 늘면 조직은 도구 호출, 에이전트 간 업무 전달, 모델 접근, 토큰 사용량을 추적해야 한다고 핀리는 말했습니다. Couchbase는 그가 ‘디지털 배출물’이라고 부른 활동 기록을 JSON으로 수집하며, 팀은 SQL로 이를 조회해 어떤 작업이 성공하거나 실패했는지 조사할 수 있습니다. 회사의 장기 목표는 대규모 환경에서 완전한 데이터 프로버넌스를 구현해 에이전트가 무엇을 알고 있었는지, 어떤 행동을 했는지, 그 결과가 무엇이었는지 확인할 수 있게 하는 것입니다. 핀리는 Couchbase가 이를 다음 달력 연도 안에 제공하는 것을 목표로 한다고 말했습니다. 그는 조직이 거버넌스를 고려해 개발을 진행하고, 작업량이 증가해도 가시성과 통제를 지원하도록 설계된 인프라를 선택할 수 있다고 주장했습니다.
가장 빠르고 정확한 AI 소식, 이메일로 받아보세요

