기업 AI 도입 방법: 요구사항 정리부터 검증·운영까지

AI 도입을 논의하는 미팅이 끝났는데, 정작 무엇을 만들어야 할지 모호했던 적이 있나요?
“상담 업무를 자동화하자”는 데는 모두 동의했지만, 어디까지 자동으로 처리하고 누가 결과를 확인할지는 사람마다 다르게 생각할 수 있습니다.
AI를 도입할 때 이 부분을 놓치기 쉽습니다. 좋은 모델을 고르는 것만큼 해결할 문제와 AI에 맡길 범위를 구체적으로 정하는 일이 중요합니다.
일본 정보처리추진기구 IPA가 공개한 『AI 시대의 요구관리 핸드북』도 이 문제를 다룹니다. 무엇을 만들지 정하는 과정에 AI를 활용하는 방법부터 도입 후 결과를 확인하고 변경을 관리하는 방법까지 담았습니다. 이 가운데 실무에 도움이 될 내용을 정리했습니다.
AI보다 문제가 먼저
“AI로 업무를 효율화하고 싶다”는 말만으로는 어떤 도구가 필요한지 판단하기 어렵습니다. 먼저 시간이 오래 걸리는 업무가 무엇인지, 어떤 변화가 필요한지 정해야 합니다.
상담 업무를 예로 들면 “문의에 자동으로 답변한다”보다 “직원이 반복해서 작성하는 배송 안내를 줄인다”가 더 구체적인 출발점입니다. 이때 AI가 초안만 작성할지, 고객에게 직접 답변할지에 따라 필요한 권한과 확인 절차가 달라집니다.
여기서 한 가지 더 생각할 점이 있습니다. 모든 문제에 AI가 필요한 것은 아닙니다. 정해진 조건대로 처리하는 일이면 기존 기능이나 간단한 규칙으로 충분할 수 있습니다. AI를 쓰는 경우와 쓰지 않는 경우의 효과, 비용, 오류가 났을 때의 영향을 함께 비교해야 합니다.
현장의 의견부터 모으기
같은 업무를 봐도 경영진, 현장 담당자, 개발자가 중요하게 생각하는 점은 다릅니다. 경영진은 처리 시간을, 현장 담당자는 답변을 수정하는 데 드는 수고를, 개발자는 연결할 데이터와 권한을 먼저 생각할 수 있습니다.
이 의견을 “업무 효율화”라는 한 문장으로 합치면 중요한 조건이 사라집니다. 누가 불편을 겪고 있는지, 어떤 상황에서 문제가 생기는지, 서로 원하는 것이 충돌하지 않는지 확인해야 합니다.
예를 들어 현장은 빠른 답변을 원하지만, 고객에게 잘못된 보상 조건이 전달되면 곤란합니다. 이럴 때는 ‘답변 속도’와 ‘승인 없이 약속하지 않기’를 함께 요구사항으로 적어야 합니다. 우선순위와 최종 승인자도 관련 담당자가 함께 정해야 합니다.
요구사항 정리에도 AI 활용
핸드북에서 눈에 띈 부분은 AI를 도입할 때의 조건뿐 아니라, 그 조건을 정리하는 과정에도 AI를 쓸 수 있다는 점이었습니다.
AI에게 미팅 기록이나 기존 업무 문서를 바탕으로 논의한 내용을 정리해 달라고 요청할 수 있습니다. 빠진 질문이나 서로 충돌하는 조건을 찾아달라고 할 수도 있습니다. 중요한 건 정리된 문장을 바로 확정하지 않는 것입니다. AI가 발언의 맥락을 놓치거나 이야기하지 않은 조건을 채워 넣을 수 있기 때문입니다.
예를 들어 아래처럼 요청할 수 있습니다.
다음 미팅 기록에서 AI 도입 목적, 필요한 기능, 사용하지 말아야 할 정보, 사람이 승인해야 할 작업을 정리해 주세요. 서로 충돌하거나 결정되지 않은 내용도 따로 적고, 각 항목의 근거가 되는 발언을 표시해 주세요. 기록에 없는 내용은 추측하지 마세요.
개인정보나 기밀자료를 입력하기 전에는 사용하려는 서비스에 대한 회사의 사용 기준과 자료 처리 조건을 확인해야 합니다. 정리 결과는 미팅 참석자가 원문과 대조해 잘못 요약된 부분이 없는지 확인해야 합니다.
“안전하게”를 조건으로
요구사항에서 가장 조심해야 할 말 중 하나가 “적절하게”입니다. 듣는 사람마다 다르게 해석할 수 있고, 결과가 나왔을 때 지켜졌는지도 확인하기 어렵습니다.
| 모호한 요청 | 확인할 수 있는 조건 |
|---|---|
| 고객정보를 안전하게 처리한다 | 승인하지 않은 개인정보는 외부 AI에 보내지 않는다 |
| AI가 고객에게 답변한다 | AI는 답변 초안만 작성하고, 담당자가 확인한 뒤 발송한다 |
| 정확한 정보를 제공한다 | 승인된 문서에서 근거를 찾지 못하면 답변을 확정하지 않고 담당자에게 넘긴다 |
조건을 정했다면 실제로 지켜지는지도 확인해야 합니다. 예를 들어 AI가 고객에게 직접 발송하지 못하게 하려면, 프롬프트에 금지 문장을 쓰는 데서 끝내지 않고 발송 권한과 연결 상태를 확인해야 합니다.
평균 점수만으로는 부족
AI의 답변은 같은 질문에도 달라질 수 있습니다. 전체적으로 답변이 좋아 보여도 중요한 유형에서 반복적으로 틀린다면 그대로 적용하기 어렵습니다.
상담 AI라면 배송 안내와 환불 조건을 따로 살펴볼 수 있습니다. 잘못된 답변이 고객에게 미치는 영향이 서로 다르기 때문입니다. 테스트할 질문의 범위와 개수, 사람에게 넘길 조건, 허용할 오류 수준은 업무 담당자와 미리 정해야 합니다.
AI가 답을 못 하는 상황도 시험에 포함해야 합니다. 자료에 없는 질문을 받았을 때 사실을 만들어내지 않는지, 직원에게 확인을 요청하는지 살펴보는 겁니다. 시험을 통과했다는 결과는 실제로 확인한 질문과 조건에 한정해 해석해야 합니다.
바뀌면 다시 확인
AI 도입은 처음 한 번 시험하고 끝나는 일이 아닙니다. 모델, 프롬프트, 참조 문서나 업무 규칙이 바뀌면 이전에 통과한 조건도 다시 확인해야 합니다.
이때 요구사항과 시험 결과를 연결해 두면 도움이 됩니다. 예를 들어 “이전 배송 정책을 사용하지 않는다”는 조건 옆에 시험 방법과 결과를 남겨두면, 정책 문서를 교체할 때 어떤 시험을 다시 해야 하는지 찾기 쉽습니다.
운영 중에 누가 무엇을 확인할지도 정해야 합니다. 오류가 늘어났을 때 누가 살펴보고, 어느 상황에서 AI 답변을 중단하며, 그동안 직원이 어떻게 업무를 이어갈지 정해두는 것이죠.
AI를 도입할 때는 “어떤 모델이 가장 좋은가?”보다 “우리 업무에서 무엇을 해결하고, 그 결과를 어떻게 확인할 것인가?”를 먼저 생각해야 합니다. 그 답이 있어야 모델의 성능도 우리에게 필요한 기준으로 비교할 수 있습니다.
출처
함께 읽어보기
AI 보안·윤리와 관련된 글 더 보기 →
기업 AI 도입이 막히는 5가지 이유와 해결 방법
직원들에게 유료 AI 계정을 주고 교육도 했는데, 견적을 보내거나 고객 문의를 끝내는 시간은 그대로일 수 있습니다. 답변 초안은 빨리 나오지만 자료를 다시 찾고, 내용을 고치고, 승인을…

기업 AI 도입, 무엇부터 맡길까? Barclays의 이메일 자동화가 보여준 순서
우리 회사가 AI에 처음 맡길 일은 무엇일까요? 매일 쌓이는 이메일을 읽고 담당자를 찾는 일, 고객에게 답하기 위해 자료를 뒤지는 일부터 살펴볼 만합니다. 사람이 판단을 시작하기까지 걸리…

AI 교육은 적극적으로, AI 사용은 제한적으로
지난 글에서는 “AI가 일하는 시대, 우리 아이는 무엇을 배워야 할까?”를 살펴봤습니다. 이번에는 가정에서 실천할 수 있는 방법을 알아보겠습니다. 2026년 9월 4일, 미국의 소아과 전…

AI 에이전트는 어떻게 만들고 서로 연결할까? Google Agentic AI Night 참관기
AI 에이전트는 어떻게 만들고, 서로 연결해 하나의 일을 맡길 수 있을까요? 에이전트마다 역할을 정하고, 참고할 지침과 사용할 도구를 갖춰 주는 것부터 시작합니다. 여러 에이전트가 함께…