기업 RAG 구축, 문서를 올리기 전에 준비할 것

자료 품질·접근 권한·답변 검증을 먼저 정리하세요

UXstory INSIGHT · AI · 게시일 2026.09.18 · 수정일 2026.09.18

안녕하세요, 유엑스스토리입니다.

회사 문서를 검색해 답하는 AI를 만들 때는 모델 선택만큼 자료를 정리하는 일이 중요합니다. 같은 주제의 오래된 문서가 여러 개 있거나, 사람마다 열람 권한이 다르면 답변을 만드는 과정에도 그 조건을 반영해야 합니다.

RAG는 관련 자료를 검색해 생성형 AI의 답변에 활용하는 방식입니다. 문서를 연결했다고 모든 답이 정확해지는 것은 아니므로, 어떤 질문에 어떤 근거로 답할지부터 정리하는 것이 좋습니다.

01첫 적용 업무와 질문 범위를 좁힙니다

전사 문서를 모두 연결하기 전에 자주 반복되는 질문이 있는 업무부터 선정해보세요. 예를 들어 제품 매뉴얼이나 사내 업무 안내처럼 자료 담당자와 기준이 비교적 명확한 영역을 검토할 수 있습니다.

사용자가 실제로 묻는 질문과 기대하는 답변 형태를 모읍니다. 원문 위치만 찾으면 되는지, 여러 문서를 비교해야 하는지, 담당자 확인이 필요한지에 따라 서비스 범위가 달라집니다.

파일 개수보다 어떤 문서가 유효한 기준인지가 중요합니다. 제목이 비슷한 수정본, 폐기된 지침, 내용이 충돌하는 자료를 구분하고 최종 확인 담당자를 지정하세요.

문서명, 작성일, 적용일, 버전, 소유 부서와 원문 위치를 목록으로 정리합니다. 근거 자료가 최신인지 판단할 수 있어야 답변이 잘못된 경우 원인을 추적하고 자료를 보완할 수 있습니다.

스캔 이미지, 복잡한 표, 여러 단으로 구성된 문서는 글자를 추출해도 문맥이 흐트러질 수 있습니다. 본문과 표 제목, 주석이 서로 떨어져 있으면 검색 결과를 이해하기 어려울 수 있습니다.

다양한 형식의 샘플을 먼저 확인하고 필요한 전처리 작업을 정리하세요. 파일 전체를 받아들인다는 것과 필요한 내용을 올바르게 찾는다는 것은 다르므로, 실제 질문으로 검색 결과를 점검해야 합니다.

사용자가 열람할 수 없는 자료가 답변 근거에 포함되지 않도록 접근 범위를 설계해야 합니다. 화면에서 출처 링크만 숨기는 것으로 자료 접근 문제가 해결되지는 않습니다.

부서 이동, 퇴사, 문서 권한 변경이 서비스에 어떻게 반영되는지 정리하세요. 외부 모델이나 저장소를 사용한다면 데이터 전송·보관 조건과 운영 구조를 함께 검토해야 합니다.

모든 질문에 답하도록 만들면 근거가 부족한 상황에서도 그럴듯한 문장이 나올 수 있습니다. 관련 자료가 없거나 서로 충돌할 때 답변을 보류하고 확인 경로를 안내하는 흐름이 필요합니다.

대표 질문뿐 아니라 잘못된 전제, 오래된 용어, 권한 밖의 요청도 검증에 포함하세요. 출처가 있다는 사실만 확인하지 말고 답변의 내용이 실제 출처와 맞는지 업무 담당자가 검토해야 합니다.

첫 구축 시점에 맞던 답변도 원문이 바뀌면 달라져야 합니다. 문서 추가·삭제·수정이 검색 대상에 반영되는 절차와 실패 시 확인할 담당자를 정하세요.

질문 유형별로 검색 결과, 답변 근거, 응답 시간과 비용을 살펴볼 수 있도록 평가 기록을 준비합니다. 모델의 답변 문제와 원문 자체의 문제를 구분해야 개선 작업의 방향을 정할 수 있습니다.

1. 자료의 기준을 먼저 정하세요.
최신성과 책임자가 검색 품질의 출발점입니다.

2. 권한을 처리 과정에 반영하세요.
사용자별 접근 범위를 일관되게 적용해야 합니다.

3. 답변과 근거를 함께 검증하세요.
출처 표시만으로 정확성이 보장되지는 않습니다.

현재 상황과 필요한 업무, 희망 일정을 알려주세요.
기획·디자인·구현 범위를 함께 정리하겠습니다.