Capital One Software 임원, 기업 AI 도입의 조직 장벽 지적

대규모 조직에 기업용 AI를 도입하려면 복잡한 데이터 환경을 관리하고 컴퓨팅 자원을 확보하며 시스템 간 연동을 해결해야 합니다. 그러나 Capital One Software에서 제품 부문 수석 부사장을 맡은 프라샨트 프라라드는 CIO Dive에 기술 문제는 기업이 겪는 어려움 중 가장 작은 축에 드는 경우가 많다고 말했습니다. 그는 고객이 AI 확산을 위해 데이터를 준비하고 변환하거나 클라우드로 이전하도록 돕는 기업 간 소프트웨어 사업의 제품 관리를 이끌며, 조직 내 합의와 추진력을 만드는 방법도 자주 조언한다고 밝혔습니다.

프라라드는 팀마다 이해관계가 다르면 조직이 AI 도입에 힘을 모으기 어렵다고 말했습니다. 많은 조직이 AI를 먼저 도입하라는 지침은 받지만, 조직 구성원들을 조율할 권한은 부족합니다. 직원은 고위 직원보다 AI를 불신하고 자율 시스템으로 인한 개인적 위험을 더 크게 느끼는 경향이 있는데, 통제력이 더 적기 때문입니다. AI 확산의 기반은 탄탄한 데이터 환경이며, 최근 몇 년간 프로젝트 실패가 늘어난 이유도 기술 한계보다 데이터 준비 부족에 있다고 그는 설명했습니다.

프라라드에 따르면 정확한 투자수익을 평가할 기반이 부족하면 AI 투자의 성과를 측정하기 어렵습니다. 대부분의 기업은 AI 지출을 정당화하지 못했으며, 시스템을 실제 운영 환경에 배치하고 모델에 기업 고유의 민감한 데이터를 제공해야 제대로 시험할 수 있다고 말합니다. 그러나 최고정보책임자(CIO)는 이사회에 성과를 보고해야 합니다. 대부분의 조직은 AI를 통해 통찰력을 얻거나 의사결정을 지원하는 효과는 보고 있지만, 비용 효율성이나 생산성 향상은 그만큼 경험하지 못하고 있습니다.

그는 공급업체들의 장밋빛 약속이 조직에 쏟아지는 상황에서는 AI에 맞게 준비할 수 있는 기존 제품이 더 나은 선택일 수 있다고 말했습니다. 여러 부서에서 AI 프로젝트가 생기면 중앙팀이 유용한 신호와 잡음을 구분하기 어려워질 수 있습니다. 프라라드는 하나의 활용 사례부터 시작하고, 여러 부서가 참여하는 ‘타이거 팀’을 꾸려 데이터를 찾아 시험하라고 권했습니다. 예를 들어 IT팀이 조직의 한 부문에 챗봇을 배치한 뒤 데이터 준비 상태와 데이터 거버넌스, 보안 요구사항을 살펴볼 수 있습니다.

한 고객사는 단일 활용 사례로 데이터를 점검한 결과 중앙화된 데이터 전략이 없다는 점을 발견했습니다. 프라라드에 따르면 이 고객사는 이후 7개 사업 부문 전체의 데이터 관리를 통합할 팀을 만들었고, 시범 사업을 통해 조직의 공백을 확인했습니다. 그는 조직마다 준비 수준이 크게 다르며 기술 인력이 많은 대기업이라고 해서 반드시 앞서가는 것은 아니라고 말했습니다. 진전은 AI를 얼마나 계획적으로 도입하는지, 어떤 도입 지침을 받았는지에 달려 있다고 덧붙였습니다.

대규모 조직에 기업용 AI를 도입하려면 복잡한 데이터 환경을 관리하고 컴퓨팅 자원을 확보하며 시스템 간 연동을 해결해야 합니다. 그러나 Capital One Software에서 제품 부문 수석 부사장을 맡은 프라샨트 프라라드는 CIO Dive에 기술 문제는 기업이 겪는 어려움 중 가장 작은 축에 드는 경우가 많다고 말했습니다. 그는 고객이 AI 확산을 위해 데이터를 준비하고 변환하거나 클라우드로 이전하도록 돕는 기업 간 소프트웨어 사업의 제품 관리를 이끌며, 조직 내 합의와 추진력을 만드는 방법도 자주 조언한다고 밝혔습니다.

프라라드는 팀마다 이해관계가 다르면 조직이 AI 도입에 힘을 모으기 어렵다고 말했습니다. 많은 조직이 AI를 먼저 도입하라는 지침은 받지만, 조직 구성원들을 조율할 권한은 부족합니다. 직원은 고위 직원보다 AI를 불신하고 자율 시스템으로 인한 개인적 위험을 더 크게 느끼는 경향이 있는데, 통제력이 더 적기 때문입니다. AI 확산의 기반은 탄탄한 데이터 환경이며, 최근 몇 년간 프로젝트 실패가 늘어난 이유도 기술 한계보다 데이터 준비 부족에 있다고 그는 설명했습니다.

프라라드에 따르면 정확한 투자수익을 평가할 기반이 부족하면 AI 투자의 성과를 측정하기 어렵습니다. 대부분의 기업은 AI 지출을 정당화하지 못했으며, 시스템을 실제 운영 환경에 배치하고 모델에 기업 고유의 민감한 데이터를 제공해야 제대로 시험할 수 있다고 말합니다. 그러나 최고정보책임자(CIO)는 이사회에 성과를 보고해야 합니다. 대부분의 조직은 AI를 통해 통찰력을 얻거나 의사결정을 지원하는 효과는 보고 있지만, 비용 효율성이나 생산성 향상은 그만큼 경험하지 못하고 있습니다.

그는 공급업체들의 장밋빛 약속이 조직에 쏟아지는 상황에서는 AI에 맞게 준비할 수 있는 기존 제품이 더 나은 선택일 수 있다고 말했습니다. 여러 부서에서 AI 프로젝트가 생기면 중앙팀이 유용한 신호와 잡음을 구분하기 어려워질 수 있습니다. 프라라드는 하나의 활용 사례부터 시작하고, 여러 부서가 참여하는 ‘타이거 팀’을 꾸려 데이터를 찾아 시험하라고 권했습니다. 예를 들어 IT팀이 조직의 한 부문에 챗봇을 배치한 뒤 데이터 준비 상태와 데이터 거버넌스, 보안 요구사항을 살펴볼 수 있습니다.

한 고객사는 단일 활용 사례로 데이터를 점검한 결과 중앙화된 데이터 전략이 없다는 점을 발견했습니다. 프라라드에 따르면 이 고객사는 이후 7개 사업 부문 전체의 데이터 관리를 통합할 팀을 만들었고, 시범 사업을 통해 조직의 공백을 확인했습니다. 그는 조직마다 준비 수준이 크게 다르며 기술 인력이 많은 대기업이라고 해서 반드시 앞서가는 것은 아니라고 말했습니다. 진전은 AI를 얼마나 계획적으로 도입하는지, 어떤 도입 지침을 받았는지에 달려 있다고 덧붙였습니다.