Snowflake, AI 비용을 성과 기준으로 측정 촉구

Snowflake는 기업이 AI 지출을 토큰·프롬프트·모델 호출당 비용이 아니라, 거버넌스를 지키며 올바른 업무 성과를 낸 비용으로 측정해야 한다고 밝혔습니다. 스탠퍼드 AI 지수 보고서는 추론 비용이 2022년 이후 99% 넘게 하락했다고 집계했고, OpenAI 보고서는 기업의 평균 추론 토큰 사용량이 전년 대비 약 320배 늘었다고 전했습니다. Snowflake는 AI가 영업·재무·엔지니어링·운영 업무에 포함되면서 측정 가능한 가치, 급증하는 지출, 거버넌스가 핵심 과제가 됐다고 설명했습니다.

토큰 가격만으로는 재시도, 실패한 실행·재시도 반복, 환각, 사람의 검토와 재작업에 드는 비용을 파악할 수 없습니다. Snowflake가 제안한 지표는 올바른 결과를 거버넌스 기준에 맞춰 내는 데 드는 비용입니다. 예를 들면 1달러당 검증된 추출 필드 수, 검증을 통과한 데이터 파이프라인 변경 건수, 또는 재문의 없이 정책에 맞게 해결한 고객 문제 수를 측정할 수 있습니다. Snowflake는 AI 에이전트를 개발하기 전에 비용과 가치 지표부터 정하고, 개발 완료 뒤에 추가하지 말라고 권고했습니다.

Snowflake는 2026년 5~6월 기업 데이터 세트 3개를 대상으로 세 가지 접근법을 내부 시험했다고 밝혔습니다. SQL 연결 기능을 갖춘 프런티어 코딩 에이전트는 프롬프트당 1.76달러에 정확도 24%를 기록했고, 시맨틱 맥락이 없는 AI 비서는 0.49달러에 47%, 완전한 업무 맥락을 갖춘 비서는 0.59달러에 86%를 기록했습니다. 회사가 말한 업무 맥락에는 시맨틱 정의, 거버넌스가 적용된 메타데이터, 데이터 계보, 업무 로직, 실행 환경이 포함됐습니다. 이 맥락을 더하자 프롬프트 비용은 0.49달러에서 0.59달러로 늘었지만 정확도는 3.6배 높아졌습니다. Snowflake는 세 접근법이 같은 기반 모델 계열을 사용했다고 밝혔으며, Cortex Sense는 2026년 6월 기준 초기 비공개 프리뷰 단계였습니다.

Snowflake는 데이터를 저장한 위치 중심에서 업무상 의미 중심으로 전환하는 현상을 ‘컨텍스트 그래비티’라고 부릅니다. 회사는 AI에 업무상 의미, 거버넌스 규칙, 보안 경계, 시맨틱 이해가 필요하며, 맥락이 부족한 시스템은 확신에 찬 오류를 낼 수 있다고 말했습니다. 거버넌스가 적용된 기업 데이터 가까이에 AI를 두면 품질과 비용 효율성을 함께 높일 수 있다는 설명입니다.

Snowflake는 AI 비용 거버넌스를 위해 가시성, 비용 귀속, 통제, 최적화의 네 단계를 제안했습니다. 서비스·사용자·업무 부하·팀별 실시간 지출을 추적하고, 비용을 담당자·프로젝트·비용 부서·업무 흐름에 배정하며, 일일 또는 월간 한도와 경고, 임계값, 예외 검토를 설정하라고 권했습니다. 또 각 업무에 맞는 모델과 AI 활용 방식을 선택해야 한다고 했습니다. 최적화는 필요한 결과를 먼저 정의하고, 예컨대 필드 정확도 95%라는 품질 기준을 충족하는 가장 간결한 접근법을 고른 뒤, 적절한 비용으로 신뢰할 수 있는 결과를 내는 업무 흐름을 확장하는 방식입니다.

Snowflake는 AI Gateway를 AI 사용자·앱·에이전트와 이들이 접근하는 모델·도구·데이터 사이에서 작동하는 중앙 통제 계층으로 설명합니다. 네 가지 기능은 비용·지연시간·품질에 따른 모델 경로 지정과 장애 전환·재시도, 품질·안전성·평가·비용·성능 관측, 플랫폼이 강제하는 예산·한도·알림·승인, 그리고 신원 확인·접근 권한·테넌트 격리와 프롬프트 인젝션·학습 데이터 포이즈닝·데이터 유출 방지입니다. Snowflake는 Gateway를 이용하면 각 팀이 추적, 비용 상한, 신원 관리, 도구 검증을 따로 구축하는 대신 공통 거버넌스를 적용할 수 있다고 밝혔습니다. 주요 플랫폼들이 Gateway 구성 요소를 통합하고 있으며, 최고정보보호책임자(CISO)·최고정보책임자(CIO)·최고AI책임자(CAIO)가 통제 계층의 소유권을 놓고 경쟁하고 있다고 덧붙였습니다.

Snowflake의 마지막 권고는 올바른 성과당 비용을 추적해 비용 누수를 줄이고, 가시성과 통제를 갖춰 AI를 확장하며, 사업 효과가 확인된 업무 흐름에 재투자하고 그렇지 않은 흐름은 중단하라는 것입니다. 한 업무 흐름부터 시작해 사용량 기준선을 정하고, 지출을 배정한 뒤 결과 품질을 평가하고 통제를 적용해 모델이나 구조를 최적화하라고 제안했습니다. 이 글은 Snowflake의 Simar Arora, Tehzeeb Versey-Patel, Tom Christian이 작성했습니다.

Snowflake는 기업이 AI 지출을 토큰·프롬프트·모델 호출당 비용이 아니라, 거버넌스를 지키며 올바른 업무 성과를 낸 비용으로 측정해야 한다고 밝혔습니다. 스탠퍼드 AI 지수 보고서는 추론 비용이 2022년 이후 99% 넘게 하락했다고 집계했고, OpenAI 보고서는 기업의 평균 추론 토큰 사용량이 전년 대비 약 320배 늘었다고 전했습니다. Snowflake는 AI가 영업·재무·엔지니어링·운영 업무에 포함되면서 측정 가능한 가치, 급증하는 지출, 거버넌스가 핵심 과제가 됐다고 설명했습니다.

토큰 가격만으로는 재시도, 실패한 실행·재시도 반복, 환각, 사람의 검토와 재작업에 드는 비용을 파악할 수 없습니다. Snowflake가 제안한 지표는 올바른 결과를 거버넌스 기준에 맞춰 내는 데 드는 비용입니다. 예를 들면 1달러당 검증된 추출 필드 수, 검증을 통과한 데이터 파이프라인 변경 건수, 또는 재문의 없이 정책에 맞게 해결한 고객 문제 수를 측정할 수 있습니다. Snowflake는 AI 에이전트를 개발하기 전에 비용과 가치 지표부터 정하고, 개발 완료 뒤에 추가하지 말라고 권고했습니다.

Snowflake는 2026년 5~6월 기업 데이터 세트 3개를 대상으로 세 가지 접근법을 내부 시험했다고 밝혔습니다. SQL 연결 기능을 갖춘 프런티어 코딩 에이전트는 프롬프트당 1.76달러에 정확도 24%를 기록했고, 시맨틱 맥락이 없는 AI 비서는 0.49달러에 47%, 완전한 업무 맥락을 갖춘 비서는 0.59달러에 86%를 기록했습니다. 회사가 말한 업무 맥락에는 시맨틱 정의, 거버넌스가 적용된 메타데이터, 데이터 계보, 업무 로직, 실행 환경이 포함됐습니다. 이 맥락을 더하자 프롬프트 비용은 0.49달러에서 0.59달러로 늘었지만 정확도는 3.6배 높아졌습니다. Snowflake는 세 접근법이 같은 기반 모델 계열을 사용했다고 밝혔으며, Cortex Sense는 2026년 6월 기준 초기 비공개 프리뷰 단계였습니다.

Snowflake는 데이터를 저장한 위치 중심에서 업무상 의미 중심으로 전환하는 현상을 ‘컨텍스트 그래비티’라고 부릅니다. 회사는 AI에 업무상 의미, 거버넌스 규칙, 보안 경계, 시맨틱 이해가 필요하며, 맥락이 부족한 시스템은 확신에 찬 오류를 낼 수 있다고 말했습니다. 거버넌스가 적용된 기업 데이터 가까이에 AI를 두면 품질과 비용 효율성을 함께 높일 수 있다는 설명입니다.

Snowflake는 AI 비용 거버넌스를 위해 가시성, 비용 귀속, 통제, 최적화의 네 단계를 제안했습니다. 서비스·사용자·업무 부하·팀별 실시간 지출을 추적하고, 비용을 담당자·프로젝트·비용 부서·업무 흐름에 배정하며, 일일 또는 월간 한도와 경고, 임계값, 예외 검토를 설정하라고 권했습니다. 또 각 업무에 맞는 모델과 AI 활용 방식을 선택해야 한다고 했습니다. 최적화는 필요한 결과를 먼저 정의하고, 예컨대 필드 정확도 95%라는 품질 기준을 충족하는 가장 간결한 접근법을 고른 뒤, 적절한 비용으로 신뢰할 수 있는 결과를 내는 업무 흐름을 확장하는 방식입니다.

Snowflake는 AI Gateway를 AI 사용자·앱·에이전트와 이들이 접근하는 모델·도구·데이터 사이에서 작동하는 중앙 통제 계층으로 설명합니다. 네 가지 기능은 비용·지연시간·품질에 따른 모델 경로 지정과 장애 전환·재시도, 품질·안전성·평가·비용·성능 관측, 플랫폼이 강제하는 예산·한도·알림·승인, 그리고 신원 확인·접근 권한·테넌트 격리와 프롬프트 인젝션·학습 데이터 포이즈닝·데이터 유출 방지입니다. Snowflake는 Gateway를 이용하면 각 팀이 추적, 비용 상한, 신원 관리, 도구 검증을 따로 구축하는 대신 공통 거버넌스를 적용할 수 있다고 밝혔습니다. 주요 플랫폼들이 Gateway 구성 요소를 통합하고 있으며, 최고정보보호책임자(CISO)·최고정보책임자(CIO)·최고AI책임자(CAIO)가 통제 계층의 소유권을 놓고 경쟁하고 있다고 덧붙였습니다.

Snowflake의 마지막 권고는 올바른 성과당 비용을 추적해 비용 누수를 줄이고, 가시성과 통제를 갖춰 AI를 확장하며, 사업 효과가 확인된 업무 흐름에 재투자하고 그렇지 않은 흐름은 중단하라는 것입니다. 한 업무 흐름부터 시작해 사용량 기준선을 정하고, 지출을 배정한 뒤 결과 품질을 평가하고 통제를 적용해 모델이나 구조를 최적화하라고 제안했습니다. 이 글은 Snowflake의 Simar Arora, Tehzeeb Versey-Patel, Tom Christian이 작성했습니다.