SAS 임원, 인간 주도 기업 AI 설계 제안
- •SAS 브라이언 해리스, 기업 AI에서 인간이 주도권과 책임을 가져야 한다고 제안
- •LLM에 결정을 맡기지 않고 결정론적 방법과 모델 카드로 평가·설명 지원
- •비용 절감에만 집중하면 경쟁에서 밀릴 위험, 지식 활용과 가치 창출이 차이
SAS Institute의 수석 부사장 겸 CTO인 브라이언 해리스(Bryan Harris)는 2026년 9월 29일 기업이 AI를 의사결정에 활용할 때 사람이 주도권과 책임을 가져야 한다고 말했습니다. 그는 AI의 목적을 인간의 지능과 추론 능력을 확장하는 데 두고, 조직이 매일 만들어 내는 방대한 정보를 정리해 판단에 활용하고 개선을 사업 전반으로 넓히는 수단이라고 설명했습니다. 체계를 필요 이상으로 복잡하게 만들 필요는 없다고 덧붙였습니다.
AI를 신뢰하고 활용하려면 대규모 언어 모델(LLM)에 모든 결정을 맡기지 말고, 결정론적 방법으로 판단한 뒤 LLM이 그 이유를 설명하도록 해야 한다고 해리스는 말했습니다. LLM은 확률에 기반해 출력을 만드는 비결정론적 기술이며, 사실과 다른 내용을 생성하는 환각 현상이 발생할 수 있습니다. 따라서 결정을 내릴 때 생기는 약점을 적절한 도구로 보완해야 합니다. AI를 쓸 상황과 쓰지 않을 상황을 정하고, 통계를 평가·검증하며, 체계를 정확히 구축하는 일도 전문 지식을 갖춘 사람의 역할입니다.
SAS는 모델의 성능과 용도를 기록하는 모델 카드 같은 체계를 통해 정확도를 장기간 평가하고, 잘못된 판단이 있었는지 문서와 증거로 남기는 작업을 진행하고 있습니다. 이는 성능의 투명성을 높이고 비윤리적 결과로 이어질 수 있는 편향을 피하려는 목적입니다. 은행, 보험, 생명과학, 공공 부문은 규정 준수가 엄격해 정확도 100%와 신뢰할 수 있는 결과, 재현성이 요구된다고 해리스는 설명했습니다. SAS는 예측, 최적화, 머신러닝 등 결정론적 정량 기법을 AI 분석 플랫폼 SAS Viya에서 LLM의 설명 능력과 결합하고 있습니다.
해리스는 기업의 핵심 지표가 매출과 비용이라며, AI 활용은 어느 지표를 바꿀지부터 따져 사업을 살피는 데서 출발한다고 말했습니다. 비용 절감만 노리는 기업은 AI로 새로운 가치를 만드는 경쟁사에 밀릴 위험이 있습니다. 인건비를 줄이려는 발상은 경쟁사도 채택할 수 있으므로, 리더는 그 위에 어떤 가치를 더할지 물어야 한다고 지적했습니다.
인터넷, 클라우드, 통계, 분석은 조직의 가치 창출을 뒷받침해 왔지만, AI를 통해 직원이 만들어 내는 가치 자체를 바꾸려는 리더가 늘고 있다고 해리스는 말했습니다. 그는 향후 20년간 회복력 있는 기업이 되기 위한 가치 창출 논의가 뒤로 밀리고 있다고 봤습니다. 모두가 하나의 프롬프트로 같은 지식에 접근한다면 차이를 만드는 것은 지식을 활용하는 방식이며, 창의성과 비전, 새로운 가치를 만들 수 있다는 믿음이 필요하다고 말했습니다.