사내 문서 AI 검색, 오래된 규정이 답으로 나온다면
직원이 AI에 출장비 기준을 물었는데, 지난번에 폐기한 규정이 답으로 나왔다면 어떨까요? 문서를 빨리 찾는 기능이 오히려 잘못된 정산과 재확인을 늘릴 수 있습니다. 사내 문서 AI 검색의 품질은 답변 문장보다 ‘어떤 승인본을, 누구에게 보여줬는가’에서 갈립니다. 처음부터 모든 파일을 연결하기보다 직원이 자주 묻는 질문 10개로 출처·버전·권한을 함께 시험해 보세요.
직원이 자주 묻는 질문
첫 작업은 간단합니다. 총무·인사·영업 담당자가 반복해서 받는 질문을 10개만 모으고, 각 질문의 답이 있는 승인된 최신 문서를 찾습니다. 회사가 사용을 허용한 AI 환경에서 민감한 정보가 없는 문서 한두 개부터 시험하세요.
예를 들어 출장비 신청 방법, 비용 증빙 제출 위치, 외부 자료의 로고 사용 기준, 고객에게 안내할 서비스 범위 등을 고를 수 있습니다. 급여·평가·개인별 계약처럼 접근 제한이 필요한 자료는 일반 안내와 분리합니다. 회사 전체 자료를 외부 챗봇에 한꺼번에 올리는 방식으로 시작할 필요는 없습니다.
AI에는 다음처럼 요청해 보세요.
제공한 승인 문서만 바탕으로 질문에 답해 주세요. 문서 제목, 해당 절과 근거 문장을 함께 표시하고, 자료에서 확인할 수 없는 내용은 ‘담당자 확인 필요’로 남겨 주세요. 서로 다른 기준이 있으면 하나로 합치지 말고 충돌을 알려 주세요.
이 요청은 무엇을 검토할지 정하는 출발점입니다. 문서 연결이나 접근 권한을 설정해 주는 기능은 아니며, AI가 붙인 출처도 직접 열어 확인해야 합니다. 담당자는 질문별로 ‘기대 답변 / 기준 문서 / 적용 시작일 / 확인 담당자’를 한 줄씩 적어 두세요. 이 목록이 있어야 새 검색 도구를 붙였을 때 무엇이 나아졌는지 비교할 수 있습니다.
답변의 출처와 승인 버전
답변이 자연스러워도 근거 문서가 다르면 업무에 쓰기 어렵습니다. 질문 10개를 실행한 뒤 다음 세 가지를 나눠 확인하세요.
- 출처 일치: 연결된 문서의 해당 절이 실제 답변을 뒷받침하는가
- 버전 일치: 회사가 승인한 현재 규정이며 적용 대상과 시점이 맞는가
- 범위 일치: 예외 조건이나 다른 부서의 기준을 빠뜨리거나 섞지 않았는가
가상의 예로 ‘출장 식비 안내’와 ‘출장 식비 안내_최종’이 함께 있다면 파일명만으로 정답을 고르기 어렵습니다. 수정일이 더 최근인 파일이 단순 오탈자 수정본일 수도 있습니다. 최근 수정일과 최신 승인본은 다른 정보입니다. 기준 문서에는 적용 시작일, 승인 상태, 담당 부서와 대체한 이전 버전을 남기는 편이 좋습니다.
Microsoft Copilot Studio에 SharePoint 사이트·폴더 URL을 연결하면 등록한 범위와 하위 폴더에서 자료를 찾습니다. 문서 안의 링크는 자동으로 따라가지 않으므로, ‘별첨 참고’의 별첨도 별도 지식 원본으로 등록해야 답변에 활용할 수 있습니다.
답변이 틀릴 때는 모델부터 바꾸기 전에 원인을 나눠 보세요. 최신 문서가 빠졌는지, 옛 문서가 함께 검색됐는지, 문서는 맞는데 해석이 틀렸는지에 따라 고칠 곳이 달라집니다. 같은 질문을 다시 실행할 수 있도록 질문 문구와 결과를 함께 남겨 두면 수정 효과를 확인하기 쉽습니다.
직원별 접근 권한
검색이 편리해져도 직원마다 볼 수 있는 자료의 범위는 유지돼야 합니다. Copilot Studio에서는 파일을 직접 올리는 방식과 SharePoint에서 연결하는 방식의 권한 처리가 다릅니다.
- 기기에서 직접 업로드: 에이전트를 사용할 권한이 있는 사람은 업로드한 파일의 내용에 접근할 수 있습니다. 원본 저장소의 직원별 권한이 그대로 적용된다고 생각하면 안 됩니다.
- SharePoint 파일·폴더 연결: 답변 전에 이용자의 접근 권한을 확인합니다. 원본이 이미 넓게 공유됐다면, AI가 그 범위를 알아서 줄여 주지는 않습니다.
어떤 방식으로 자료를 넣었는지 먼저 확인한 뒤 시험하세요.
관리자 계정으로 답이 나온다는 확인만으로 끝내지 마세요. 일반 직원, 해당 업무 담당자, 접근 제한 대상의 서로 다른 시험 계정으로 같은 질문을 실행합니다. 실제 직원의 비밀번호를 공유하기보다 IT 담당자가 승인한 시험 계정을 준비하고, 다음을 비교하세요.
- 허용된 안내는 필요한 직원에게 정상적으로 나오는가
- 제한된 내용은 답변에 노출되지 않는가
- 출처 링크를 열었을 때도 의도한 권한이 적용되는가
- 볼 수 없는 자료를 물으면 추측한 답 대신 확인 경로를 안내하는가
자료를 못 찾는 이유가 항상 권한은 아닙니다. ‘Upload files > SharePoint’ 경로에서는 민감도 레이블로 보호되거나 비밀번호가 걸린 문서를 검색용으로 처리할 수 없습니다. ‘Ready’로 표시돼도 답변에 쓰이지 않을 수 있습니다. 보호를 해제하기보다 별도 안내 자료를 만들 수 있는지 담당자와 판단하세요.
오래된 문서 정리
옛 규정을 없애는 일과 검색 대상에서 빼는 일은 구분해야 합니다. 계약·감사·업무 이력 때문에 보관할 자료라면 보존 정책을 지키며 별도 위치로 옮기거나, 현재 규정 검색에서 제외하는 방법을 검토할 수 있습니다. 영구 삭제를 AI 검색 개선의 첫 단계로 삼지 마세요.
문서마다 ‘현재 승인본 / 시행 예정 / 참고·보관용’을 구분하고, 복사본이 여러 폴더에 있으면 기준 위치 하나를 정합니다. 문서 변경 담당자와 검색 연결 담당자가 다를 때는 승인 후 갱신할 사람도 정하세요.
원본을 고쳤다고 AI의 자료까지 모두 바뀌는 것은 아닙니다. Copilot Studio에 직접 업로드한 파일은 수정본을 다시 올려야 합니다. SharePoint 파일·폴더 연결은 변경 사항을 자동 동기화하므로, 갱신 후 실제 답변에 새 규정이 반영됐는지 확인하세요. 사이트·폴더 이름을 바꿨다면 연결 주소와 접근 권한도 점검해야 합니다.
정리 후에는 처음의 질문 10개를 다시 실행합니다. 정답뿐 아니라 출처와 권한까지 맞았는지 기록하고, 문서를 개정할 때 같은 점검을 반복하세요. ‘답변을 못 함’도 따로 남겨야 합니다. 근거가 없는 질문에 그럴듯한 규정을 만들어 주는 것보다, 담당자에게 연결하는 편이 필요한 경우가 있습니다.
직원이 AI의 답변을 그대로 업무에 써도 되는 이유를, 승인 문서와 접근 권한으로 설명할 수 있나요?
처음에는 한 부서의 반복 질문부터 시작해도 충분합니다. 자주 쓰는 답의 기준이 정리되면 AI 검색 도입과 기존 문서 관리 개선을 함께 진행할 수 있습니다.
사내 자료를 AI에 어떻게 연결하고 검토할지 고민이라면, 반복 질문 한 묶음부터 AIB와 점검해 보세요. 에이아이비(AIB)는 특정 AI 회사에 치우치지 않는 독립적인 AI 비교 플랫폼을 운영합니다. 기업의 대표와 실무자가 업무와 예산에 맞는 AI를 고르고 실제 업무에 적용하도록 돕습니다.