I-ON Communications

뉴스레터 I-ON Communications의 다양한 소식들을 확인해보세요.

RAG 챗봇 구축 가이드 | 부서별 문서 분리와 열람 권한 설정

  • 등록일 2026년11월19일

본문

RAG 챗봇은 질문을 받으면 사내 규정, 매뉴얼, FAQ 같은 지식 기반에서 관련 내용을 검색하고, 찾은 정보를 바탕으로 답변하는 AI 챗봇입니다. RAG는 검색 증강 생성(Retrieval-Augmented Generation)의 약자입니다. 기업에서 구축할 때는 어떤 문서를 연결할지와 함께, 질문마다 어느 문서를 검색하고 누구에게 답변할 수 있는지 정해야 합니다.
서로 다른 두 문서 묶음이 파란 칸막이 양쪽에 놓인 모습

직원이 “신규 입사자도 재택근무를 신청할 수 있나요?”라고 묻습니다. 같은 회사의 고객 상담사는 “개봉한 상품도 교환 접수가 가능한가요?”라고 묻습니다. 한 챗봇으로 두 질문을 받더라도, 첫 답변에는 최신 근무 규정이, 두 번째 답변에는 교환 정책과 상담 매뉴얼이 필요합니다. 아래는 한 기업에서 두 부서의 RAG 챗봇을 설계한다고 가정한 예시입니다.

RAG 챗봇은 사내 문서를 어떻게 찾아 답할까요?

  1. 질문 확인 — “개봉한 상품도 교환할 수 있나요?”와 같은 질문을 받습니다.
  2. 관련 문서 검색 — 연결된 지식 기반에서 교환 정책의 기본 조건과 예외 조항을 찾습니다.
  3. 근거를 바탕으로 답변 작성 — 언어 모델이 검색된 내용을 상담에 필요한 정보로 요약합니다.

검색 단계에서 어떤 자료를 가져왔는지가 답변의 품질을 좌우합니다. 개정 전 매뉴얼과 최신 정책이 함께 검색되면 오래된 기준으로 답할 수 있습니다. 따라서 문서를 등록할 때 문서명과 함께 시행일, 적용 범위, 관리 부서를 기록하고 운영 중인 버전을 구분하는 것이 좋습니다.

답변에 문서명과 시행일을 함께 보여주는 방식으로 설계하면 담당자가 근거를 확인하기 쉬워집니다. 근거가 부족하거나 두 문서의 지침이 어긋나는 질문에는 추가 정보를 요청하거나 담당 부서로 안내할 수 있습니다.

인사팀과 고객지원팀의 지식 기반을 어떻게 나눌까요?

문서 관리 부서, 적용 대상, 공개 범위가 다르면 지식 기반을 나눌 수 있습니다. 다음 표는 두 부서가 처음 문서 목록을 정리할 때 사용할 수 있는 구성 예시입니다.

두 문서 그룹의 일부 정보만 반투명 띠를 통해 드러나는 모습
지식 기반 연결할 문서 대표 질문 운영 기준 예시
인사 취업규칙, 복무·휴가 규정, 복리후생 FAQ 신규 입사자도 재택근무를 신청할 수 있나요? 직원에게 공개된 최신 규정을 중심으로 구성하고, 개인 인사기록과 인사팀 전용 자료의 접근 범위를 별도로 검토합니다.
고객지원 교환·환불 정책, 상품별 FAQ, 상담 매뉴얼 개봉한 상품도 교환 접수가 가능한가요? 상품과 접수 조건을 확인하고, 고객에게 안내할 정책과 상담사 전용 지침의 공개 범위를 구분합니다.
  • 부서별 문서 분류 — 문서를 관리 부서와 업무에 따라 나눕니다.
  • 사용자별 열람 권한 — 고객에게 공개하는 교환 정책과 상담사 전용 예외 처리 매뉴얼의 공개 범위를 각각 정합니다.
  • 제한 정보 노출 점검 — 검색 결과와 최종 답변 양쪽에서 제한 문서의 내용이 드러나는지 확인합니다.

여러 부서가 함께 다루는 질문도 미리 정리할 수 있습니다. “직원 할인으로 산 상품은 어떻게 교환하나요?”는 인사팀의 할인 안내와 고객지원팀의 교환 정책이 모두 관련될 수 있는 질문입니다. 독자가 볼 수 있는 자료의 범위를 확인하고, 공개 문서만으로 판단하기 어려울 때 어느 부서로 연결할지 정해두면 운영 중 대응이 쉬워집니다.

구축 전에 어떤 질문으로 답변을 검수할까요?

첫 검수에는 답이 분명한 질문, 규정이 충돌하는 질문, 볼 수 있는 자료가 제한된 질문, 근거가 없는 질문을 함께 넣습니다. 검수표에는 질문, 기대 답변, 근거 문서와 버전을 기록합니다.

검수 항목 질문 예시 확인할 결과
최신 문서 올해 개정된 재택근무 신청 기준은 무엇인가요? 질문에 해당하는 시행일의 복무 규정을 근거로 답하는지 확인합니다.
예외 조항 개봉한 상품도 교환할 수 있나요? 상품 유형과 조건에 따라 달라지는 부분을 안내하고, 필요한 정보가 빠졌으면 되묻는지 확인합니다.
열람 범위 직원 계정으로 인사팀 전용 지침을 요청합니다. 제한 문서의 본문과 세부 내용을 답변에 노출하지 않는지 확인합니다.
근거 부족 등록된 정책에 없는 예외 상황도 교환할 수 있나요? 정책에 없는 조건을 추정하지 않고 확인 가능한 범위와 문의 경로를 안내하는지 확인합니다.

답변이 기대와 다르면 먼저 실제로 검색된 문서를 확인합니다.

  • 개정 전 문서가 검색된 경우 — 문서 등록과 버전 관리부터 점검합니다.
  • 최신 문서는 찾았지만 예외 조항이 빠진 경우 — 답변에 반영한 근거와 응답 형식을 확인합니다.
  • 운영 중 규정이 바뀐 경우 — 바뀐 규정의 영향을 받는 질문을 다시 검수합니다.

RAToRu로 부서별 지식 기반 운영하기

복지제도와 휴가 신청서 정보 조회 예시가 표시된 라토루 챗봇 화면

아이온커뮤니케이션즈의 RAToRu(라토루)는 RAG와 MCP를 결합한 기업용 AI 시스템입니다. 멀티지식도메인 RAG를 지원해 인사, 고객지원 등 부서나 업무 영역마다 독립된 지식 기반을 분리해 운영할 수 있습니다. RAToRu의 멀티지식도메인 RAG 소개

도입을 검토할 때는 한 부서에서 자주 받는 질문과 기준 문서부터 정리해볼 수 있습니다. 질문에 쓸 근거, 볼 수 있는 사람, 답하기 어려울 때 연결할 담당자를 먼저 정하면 다른 부서로 확장할 때도 같은 기준을 적용할 수 있습니다.

사내 규정과 고객지원 매뉴얼을 활용한 RAG 챗봇 구축을 검토하고 있다면, 아이온커뮤니케이션즈에 적용 범위를 문의할 수 있습니다.

RAToRu 도입 문의

참고 자료 · IBM, 검색 증강 생성(RAG)이란 무엇인가요? (2026.10.02 수정)