한국GPT협회

사내 AI 챗봇 구축 기업교육

사내 챗봇에서 가장 어려운 건 만드는 게 아니라 “지어내지 않게” 만드는 것입니다. 프롬프트가 아니라 구조로 막는 방법을 다룹니다.

교육 시간
7시간 · 7차시
교육 대상
사내 AI 도입 담당 · 지식관리 · 부서 실무자
권장 인원
15~20명
사용 도구
GPTs · Gems · NotebookLM · RAG 도구

WHY

이런 상황이시라면

공통적으로 들리는 현장의 목소리입니다.

챗봇을 만들었는데 아무도 안 씁니다

몇 번 틀린 답을 하고 나면 신뢰를 잃습니다. 그다음부터는 담당자에게 직접 묻습니다.

AI 가 지어내면 어쩌나 하는 걱정이 큽니다

규정 안내는 틀리면 안 되는 업무입니다. 그럴듯한 오답이 나오면 안 쓰느니만 못합니다.

문서는 많은데 어디에 뭐가 있는지 모릅니다

PDF 가 수백 건 쌓여 있고 개정 이력도 섞여 있습니다. 담당자만 압니다.

권한 문제를 어떻게 해야 할지 모르겠습니다

전 직원이 봐도 되는 문서와 아닌 문서가 섞여 있습니다. 이걸 정리하지 않으면 시작할 수 없습니다.

DESIGN

이 과정을 이렇게 설계했습니다

같은 주제라도 어떻게 짜느냐에 따라 교육이 끝난 뒤 남는 것이 달라집니다.

01

문서 정비가 절반입니다

챗봇 품질의 대부분은 도구가 아니라 문서 상태에서 결정됩니다. 그래서 1·2차시를 문서를 다루는 데 씁니다. 이 단계를 건너뛰면 뒤가 아무리 좋아도 답변이 나오지 않습니다.

02

지어내지 않게 만드는 걸 구조로 합니다

“지어내지 마”라고 쓰는 것만으로는 부족합니다. 근거를 못 찾으면 답하지 않게 하고, 원문을 그대로 붙이고, 검색 대상을 제한하는 세 가지를 실제로 걸어 봅니다.

03

만든 뒤에 검증합니다

동작하는 것을 만드는 데서 끝내지 않습니다. 규정 안 질문 · 규정 밖 질문 · 애매한 질문 세 종류로 시나리오를 만들어 통과 여부를 확인합니다.

사내 규정 안내 챗봇답변 완료

배우자 조부모상인데 경조휴가 며칠인가요? 그리고 조의금은 얼마 나오죠?

사내 규정 도우미
사내 문서 검색 중…
규정경조사 규정제4조 (경조휴가)
규정경조사 규정별표1 경조금 지급 기준
배우자의 조부모상은 **경조휴가 2일**입니다. (경조사 규정 제4조) 조의금은 **10만원**이 지급됩니다. (별표1) > 제4조 ② 배우자의 조부모: 2일 휴가 신청은 그룹웨어 > 근태 > 경조휴가에서 하시면 되고, 증빙(가족관계증명서 또는 부고)을 7일 이내에 첨부하시면 됩니다.
규정에 없는 내용은 답하지 않고 담당 부서를 안내합니다. 답변마다 근거 조항을 원문 그대로 붙여 사람이 바로 확인할 수 있게 했습니다.
근거 조항 2건 · 규정 밖 질문은 담당 부서로 안내
메시지를 입력하세요

3~4차시에서 만드는 것입니다. 답변마다 근거 조항이 붙고, 규정 밖 질문은 담당 부서로 안내합니다.

CURRICULUM

커리큘럼

7시간 · 7차시 · 매 차시 실습 · 1인 1노트북 — 시간·심화 범위·실습 과제는 사전 조사 후 조정합니다.

1차시

60분

내용

  • AI 가 읽기 좋은 문서와 나쁜 문서의 차이
  • 개정 이력이 섞여 있을 때 생기는 문제
  • 무엇부터 정비할지 우선순위 정하기

사례 및 실습

  • 부서 문서를 그대로 올려 질문해 보고 답변 품질 확인
  • 답이 안 나오는 원인을 문서에서 찾기
  • 정비 우선순위 목록 만들기

2차시

60분

문서를 AI 가 읽을 수 있게

마크다운 · 문서 변환

내용

  • 이미지 PDF 를 텍스트로 — OCR 과 검증
  • 조항 번호·목차를 살려 구조를 남기기
  • 폐기 문서 걸러내고 개정 이력 정리

사례 및 실습

  • 이미지 PDF 하나를 텍스트로 변환하고 검증
  • 문서 하나를 조항 구조가 남게 정리
  • 정리 전후로 같은 질문을 던져 답변 비교

3차시

60분

내용

  • 역할 · 응답 규칙 · 예외 처리 지시문 구조
  • 대화 시작 질문(Conversation starters)의 역할
  • 지식 파일 업로드와 갱신 방법

사례 및 실습

  • 정리한 문서로 부서 챗봇 만들기
  • 예외 처리 두 줄을 넣고 동작 확인
  • 대화 시작 질문 세 개 설정

4차시

60분

환각을 구조로 막기

RAG 설정 · 프롬프트

내용

  • 근거를 못 찾으면 답하지 않게 하는 임계값
  • AI 요약이 아니라 원문을 그대로 보여주기
  • 검색 대상을 문서 단위로 제한하기

사례 및 실습

  • 임계값을 걸고 애매한 질문에 어떻게 답하는지 확인
  • 답변에 원문 발췌를 붙이도록 설정
  • 검색 대상 문서를 골라 답변 범위 제한

5차시

50분

권한과 보안 경계

권한 설계 · 접근 정책

내용

  • 문서를 공개 범위로 분류하는 기준
  • 권한 밖 문서를 검색 단계에서 제외하는 이유
  • 대화 기록 보관과 감사 로그

사례 및 실습

  • 부서 문서를 공개 범위별로 분류
  • 역할별로 검색 대상을 다르게 설정
  • 권한 밖 질문을 던져 새어 나가지 않는지 확인

6차시

60분

내용

  • 규정 안 · 규정 밖 · 애매한 질문 세 종류로 나누기
  • 통과 기준을 미리 정하고 채점하기
  • 실패한 항목의 원인을 문서·설정에서 찾기

사례 및 실습

  • 세 종류로 검증 시나리오 12개 작성
  • 실행해 통과 여부를 표로 기록
  • 실패 항목의 원인을 찾아 고치고 재검증

7차시

60분

배포와 운영

배포 · 운영 설계

내용

  • 누구에게 어떻게 열지 — 링크 공유부터 사내 포털 연동까지
  • 문서 개정 시 갱신 절차와 담당자 지정
  • 어떤 질문이 들어오는지 보고 개선하는 순환

사례 및 실습

  • 부서 대상 공개 범위와 안내 방법 정하기
  • 갱신 주기와 담당자를 문서로 확정
  • 3개월 운영 계획 한 장 작성

사전에 부서 문서를 3~5건 받아 상태를 확인합니다. 목차와 조항 번호가 살아 있는 문서인지, 개정 이력이 정리돼 있는지에 따라 커리큘럼 배분이 달라집니다.

차시별 상세 — 무엇을 배우고 무엇을 만드는가

011차시 · 60분

무엇을 넣을 것인가 — 문서 실태 파악

챗봇 품질의 대부분이 여기서 결정됩니다. 도구보다 문서가 먼저입니다.

문서 점검 · NotebookLM

LEARNING OBJECTIVES

  • AI 가 읽을 수 있는 문서 형태를 판단할 수 있다.
  • 답변 품질 문제의 원인을 문서에서 찾을 수 있다.
  • 정비 우선순위를 정할 수 있다.
읽기 좋은 문서목차와 조항 번호가 살아 있고, 표가 이미지가 아니라 텍스트인 문서. 스캔 PDF 는 그대로는 못 씁니다
개정 이력구 버전과 신 버전이 섞여 있으면 어느 쪽을 답할지 모릅니다. 폐기 문서를 빼는 게 먼저입니다
쪼개는 단위긴 문서는 잘라서 저장됩니다. 조항 단위로 잘리는 문서와 문단 중간에서 잘리는 문서의 차이
우선순위다 정비하고 시작할 수 없습니다. 문의가 많은 문서부터 손봅니다

실습

우리 문서로 먼저 부딪혀 보기

설명을 듣기 전에 실제 문서를 올려 질문해 봅니다. 안 되는 이유를 직접 겪어야 문서 정비의 필요가 납득됩니다.

  1. 1

    부서 문서를 가공 없이 그대로 올립니다.

  2. 2

    실제로 자주 받는 질문 다섯 개를 던져 답변을 봅니다.

  3. 3

    답이 이상한 건을 골라 원인을 문서에서 찾습니다.

    문서 상태 점검 결과 — 어느 부서 사례5개 파일
    PDF인사규정_2026개정.pdf조항 번호 있음 · 양호
    PDF복무지침_최종_최종.pdf구 버전 혼재 · 정비 필요
    PDF출장규정_스캔본.pdf이미지 PDF · 텍스트 없음
    DOCFAQ_2023.docx개정 반영 안 됨
    PDF경조사규정.pdf별표가 이미지 · 부분 정비

    다섯 건 중 바로 쓸 수 있는 건 하나입니다. 여기서 정비 우선순위가 나옵니다.

  4. 4

    정비 우선순위 목록을 만듭니다. 이 목록이 실제 구축 계획의 첫 장이 됩니다.

산출물문서 실태 점검표 + 정비 우선순위

022차시 · 60분

문서를 AI 가 읽을 수 있게

정비라고 해서 전부 다시 쓰는 게 아닙니다. 몇 가지만 손보면 크게 달라집니다.

마크다운 · 문서 변환

LEARNING OBJECTIVES

  • 이미지 문서를 텍스트로 바꾸고 결과를 검증할 수 있다.
  • 조항 구조가 남게 문서를 정리할 수 있다.
  • 정비 효과를 답변 품질로 확인할 수 있다.
이미지 → 텍스트스캔본은 그대로는 못 읽습니다. 변환 후 숫자와 표가 제대로 나왔는지 반드시 확인합니다
구조 남기기제목 수준과 조항 번호가 남아 있어야 “제4조 ②”로 답할 수 있습니다
표 다루기별표·기준표가 이미지면 답변에 못 씁니다. 텍스트 표로 옮기는 것이 효과가 큽니다
폐기 관리지금 유효한 것만 넣습니다. 구 버전이 섞이면 답이 흔들립니다

실습

정리 전후 비교하기

  1. 1

    이미지 PDF 하나를 텍스트로 변환하고 숫자·표가 맞는지 확인합니다.

  2. 2

    조항 번호와 제목 수준이 남게 정리합니다.

  3. 3

    정리 전 문서와 정리 후 문서에 같은 질문을 던져 답변을 비교합니다.

    정리 후 — 조항 위치까지 답함답변 완료

    출장 중 숙박비 상한이 직급별로 어떻게 되나요?

    MD출장규정_정리본.md
    규정 도우미
    규정 검색 중…근거 1건
    1출장 및 여비 규정제12조 별표2
    국내 출장 숙박비 상한은 별표2에 정해져 있습니다. 임원 15만원, 부장급 12만원, 과장~차장 10만원, 대리 이하 8만원입니다. 서울·광역시는 이 금액의 120%까지 인정됩니다(제12조 ③).표 내용까지 정확히 · 예외 조항도 함께
    메시지를 입력하세요

산출물정리된 문서 1건 + 정비 전후 비교 기록

033차시 · 60분

첫 챗봇 만들기 — GPTs

코드 없이 20분이면 동작합니다. 중요한 건 만드는 게 아니라 규칙을 거는 것입니다.

GPTs · Gems

LEARNING OBJECTIVES

  • 코드 없이 사내 문서 기반 챗봇을 만들 수 있다.
  • 역할·규칙·예외 처리를 지시문으로 작성할 수 있다.
  • 지식 파일을 갱신하는 방법을 안다.
지시문 구조역할 · 응답 규칙 · 예외 처리 · 대화 예시. 네 부분으로 나눠 쓰면 관리가 쉽습니다
예외 처리 두 줄업무 범위 밖 질문과 규정에 없는 내용. 이 둘을 나눠 각각 다른 문구로 돌려보냅니다
대화 시작 질문처음 여는 사람이 뭘 물어야 할지 모릅니다. 자주 나오는 질문을 버튼으로 보여줍니다
갱신규정이 개정되면 파일을 교체합니다. 누가 언제 할지 정해 두지 않으면 낡습니다

실습

부서 챗봇 20분 만에 만들기

  1. 1

    2차시에서 정리한 문서를 지식으로 올립니다.

  2. 2

    지시문을 네 부분으로 나눠 작성합니다.

    부서 챗봇 지시문.md실제 사용하는 프롬프트
    # 역할
    당신은 회사의 인사 담당자다. 임직원의 인사·복무 관련 문의에
    친절하고 명확하게 답한다.
    
    # 응답 규칙
    - 반드시 첨부된 규정 내용만 근거로 답한다.
      규정에 없는 내용은 임의로 만들지 않는다.
    - 답변에 근거 조항 번호를 함께 표시한다.
    - 명확하고 친절한 어조를 유지하고 간결하게 답한다.
    - 답변 마지막에 담당자 정보(이름·이메일·내선)를 제공한다.
    
    # 예외 처리
    - 인사 규정과 무관한 질문:
      "해당 문의는 인사팀의 업무 범위를 벗어납니다."
    - 규정에 없는 내용:
      "관련 규정에서 확인되지 않은 내용입니다. 인사팀에 문의해 주세요."
    
    # 대화 예시(Conversation starters)
    - 연차는 며칠이고 언제까지 써야 하나요?
    - 경조사 휴가 규정이 어떻게 되나요?
    - 재택근무 신청 절차를 알려주세요.
  3. 3

    규정 안 질문 다섯 개로 동작을 확인합니다.

  4. 4

    규정 밖 질문을 던져 돌려보내는지 확인합니다.

산출물동작하는 부서 챗봇 1개

044차시 · 60분

환각을 구조로 막기

“지어내지 마”라고 쓰는 것만으로는 부족합니다. 세 가지를 실제로 걸어 봅니다.

RAG 설정 · 프롬프트

LEARNING OBJECTIVES

  • 근거 임계값으로 답변 거부를 설정할 수 있다.
  • 원문 발췌를 답변에 붙여 검증 가능하게 만들 수 있다.
  • 검색 단계에서 대상을 제한할 수 있다.
프롬프트만으로는 부족지시문에 “지어내지 마”라고 써도 나옵니다. 검색이 애매한 것을 찾아왔을 때가 문제입니다
근거 임계값검색 점수가 기준에 못 미치면 답하지 않습니다. 모른다고 하는 게 틀린 답보다 낫습니다
원문 발췌AI 가 요약한 문장이 아니라 규정 원문을 그대로 붙입니다. 사람이 눈으로 확인할 수 있습니다
검색 단계 차단권한 밖 문서는 답변에서 빼는 게 아니라 검색에서 뺍니다. 그래야 새어 나가지 않습니다

실습

세 가지 방어선 걸어 보기

  1. 1

    근거 임계값을 걸고, 문서에 없는 애매한 질문을 던져 봅니다.

    근거를 못 찾았을 때답변 완료

    재택근무 중에 다치면 산재 처리가 되나요?

    규정 도우미
    관련 규정에서 확인되지 않은 내용입니다. 재택근무 규정에는 근무 형태와 신청 절차만 정해져 있고 재해 처리 기준은 포함돼 있지 않습니다. 인사팀(내선 1234)으로 문의해 주세요.추측하지 않고 무엇이 없는지까지 설명
    메시지를 입력하세요
  2. 2

    답변에 원문 발췌를 붙이도록 설정하고 결과를 확인합니다.

  3. 3

    검색 대상을 특정 문서로 제한하고, 제외한 문서 내용을 물어봐 답하지 않는지 확인합니다.

산출물환각 차단 설정이 적용된 챗봇

055차시 · 50분

권한과 보안 경계

누가 무엇까지 볼 수 있는가. 이걸 정하지 않으면 배포할 수 없습니다.

권한 설계 · 접근 정책

LEARNING OBJECTIVES

  • 문서를 공개 범위로 분류할 수 있다.
  • 역할별로 검색 대상을 제한할 수 있다.
  • 대화 기록 보관 정책을 설계할 수 있다.
공개 범위 분류전 직원 · 부서 한정 · 관리자 한정. 세 단계면 대부분 커버됩니다
검색 단계 제외답변을 걸러내는 방식은 위험합니다. 애초에 검색되지 않게 해야 합니다
대화 기록무엇을 얼마나 보관할지. 개인정보가 질문에 섞여 들어오는 경우의 처리
감사 로그누가 무엇을 물었는지 남길지. 남기면 개선에 쓰이지만 심리적 저항이 생깁니다

실습

권한별로 다른 챗봇 만들기

  1. 1

    부서 문서를 공개 범위 세 단계로 분류합니다.

  2. 2

    전 직원용과 관리자용으로 검색 대상을 다르게 설정합니다.

  3. 3

    전 직원용에 관리자 문서 내용을 물어봐 새어 나가지 않는지 확인합니다.

산출물공개 범위 분류표 + 권한별 설정

066차시 · 60분

검증 — 세 종류 시나리오

동작하는 것을 만드는 데서 끝내지 않습니다. 통과 기준을 정해 확인합니다.

검증 시나리오

LEARNING OBJECTIVES

  • 검증 시나리오를 설계할 수 있다.
  • 통과 기준을 정해 객관적으로 판단할 수 있다.
  • 실패 원인을 문서와 설정에서 찾아 고칠 수 있다.
세 종류규정에 명확히 있는 질문 · 규정에 없는 질문 · 애매하게 걸치는 질문. 마지막이 가장 어렵습니다
통과 기준맞는 답 + 근거 조항 표시 + 담당자 안내. 셋 다 있어야 통과로 봅니다
실패 원인문서에 없어서인지, 검색이 못 찾아서인지, 지시문이 약해서인지를 나눠 봅니다
재검증고친 뒤 전체를 다시 돌립니다. 한 곳을 고치면 다른 곳이 깨지는 경우가 있습니다

실습

12개 시나리오로 채점하기

  1. 1

    세 종류로 나눠 시나리오 12개를 씁니다. 실제로 들어오는 질문에서 고릅니다.

  2. 2

    차례로 실행하고 통과 여부를 표에 기록합니다.

    검증 결과 — 1차4개 파일
    ···규정 안 질문 5건통과 5 / 실패 0
    ···규정 밖 질문 4건통과 4 / 실패 0
    ···애매한 질문 3건통과 1 / 실패 2
    MD실패 원인 메모.md별표가 이미지 · 조항 누락

    애매한 질문에서 갈립니다. 두 건 모두 별표가 이미지라 검색이 못 찾은 경우였습니다.

  3. 3

    실패 항목의 원인을 찾아 고칩니다. 대개 문서 문제입니다.

  4. 4

    고친 뒤 12개를 전부 다시 돌립니다.

산출물검증 시나리오 12건 + 통과 기록

077차시 · 60분

배포와 운영

만든 것을 실제로 쓰이게 하는 단계. 여기서 대부분이 멈춥니다.

배포 · 운영 설계

LEARNING OBJECTIVES

  • 사내 배포 방법과 범위를 정할 수 있다.
  • 문서 개정에 따른 갱신 절차를 만들 수 있다.
  • 운영·개선 순환을 설계할 수 있다.
배포 방법링크 공유 · 그룹웨어 게시 · 사내 포털 연동. 조직 규모와 IT 여건에 따라 다릅니다
안내무엇을 물어봐도 되고 무엇은 안 되는지를 함께 알립니다. 기대치가 맞아야 신뢰가 유지됩니다
갱신 절차규정이 개정되면 누가 언제 파일을 교체할지. 정해 두지 않으면 반년 만에 낡습니다
개선 순환들어온 질문 중 답을 못 한 것을 모아 봅니다. 그게 다음 정비 대상입니다

실습

3개월 운영 계획 만들기

  1. 1

    공개 범위와 안내 방법을 정합니다. 파일럿 부서부터 여는 경우가 많습니다.

  2. 2

    문서 개정 시 갱신 절차와 담당자를 문서로 확정합니다.

  3. 3

    답을 못 한 질문을 모으는 방법과 검토 주기를 정합니다.

  4. 4

    3개월 운영 계획을 한 장으로 정리합니다.

산출물배포 계획 + 3개월 운영 계획서

심화 (선택)

개발 인력이 있는 조직 대상 확장 모듈입니다.

  • · 자연어 처리(NLP) 기초
  • · Flask 기반 챗봇 구조 구현
  • · 대화 흐름 설계 및 성능 개선
  • · 챗봇 배포 및 유지 보수 (AWS·Heroku)

OUTCOME

교육이 끝났을 때 남는 것

산출물 목록은 종료 시점에 정리해 교육 담당 부서에 전달합니다. 다음 예산 협의에 그대로 쓰실 수 있습니다.

참가자 전원

검증까지 마친 부서 챗봇 1개

부서

문서 실태 점검표와 정비 우선순위

교육 담당 부서

검증 시나리오 12건 + 3개월 운영 계획서

HONEST

검토 단계에서 미리 말씀드리는 것

맞지 않는다고 판단되면 그대로 말씀드립니다. 시작하고 나서 알게 되면 서로 손해입니다.

문서가 전혀 정리돼 있지 않은 경우

챗봇보다 문서 정비가 먼저입니다. 사전 조사에서 그렇게 판단되면 정비 범위와 기간을 먼저 말씀드립니다. 그 상태로 만들면 반드시 실패합니다.

전사 규모 시스템 구축이 목적인 경우

이 과정은 부서 단위로 만들어 보는 범위입니다. 전사 검색 구조와 권한 연동은 별도 개발 과제이고, AX 컨설팅 쪽에서 다룹니다.

사내 문서를 외부 서비스에 올릴 수 없는 경우

사내에서만 도는 방식으로 커리큘럼을 바꿉니다. 다만 쓸 수 있는 도구가 줄어 범위가 달라집니다. 사전에 확인합니다.

완벽한 정확도를 기대하시는 경우

100% 는 나오지 않습니다. 그래서 근거를 붙이고 모를 때는 담당자를 안내하는 구조로 만듭니다. 사람이 최종 확인하는 전제입니다.

FAQ

자주 묻는 질문

Q교육 시간은 어떻게 되나요?

최소 2시간 특강부터 24시간(8시간씩 3일) 과정까지 조정합니다. 다만 실습 산출물까지 가려면 최소 8시간을 권합니다. 4시간 이하로는 도구를 알게 되는 데서 끝납니다.

Q몇 명까지 들을 수 있나요?

실습 중심이면 25명 이내를 권합니다. 그 이상이면 강사가 개별 화면을 봐드릴 수 없어 실습이 시연으로 바뀝니다. 시연 위주 특강은 인원 제한이 덜합니다.

Q우리 회사 자료를 AI에 넣어도 되나요?

보안 정책에 따라 다릅니다. 외부 도구 반입이 어려운 경우 사내에서 가능한 방식으로 커리큘럼을 조정합니다. 사전 조사 때 반드시 확인하는 항목입니다.

Q출장 교육도 가능한가요?

전국 어디든 방문합니다. 온라인 실시간 교육도 가능하고, 두 방식을 섞어 진행한 사례도 많습니다.

Q부서마다 하는 일이 달라도 괜찮을까요?

오히려 그 편이 낫습니다. 실습 과제를 직무별로 나누기 때문입니다. 다만 한 회차에 3~4개 부서 정도로 섞는 것을 권합니다. 너무 많이 섞으면 공통 과제를 잡기 어렵습니다.

Q교육이 끝나고 막히면 물어볼 데가 있나요?

교육 후에도 질문할 수 있는 커뮤니티를 운영합니다. 활용 매뉴얼도 함께 제공합니다.

CONTACT

어떤 교육이 필요한지
아직 정하지 않으셨어도 됩니다

부서 구성과 지금 하고 계신 업무만 알려주시면, 저희가 커리큘럼 초안과 견적을 만들어 보내드립니다. 사전 조사부터 함께 진행합니다.

이메일
GPT@Rnbdp.com
업무시간
09:00-18:00

급하시면 전화가 가장 빠릅니다. 상담 전 무료 수준진단도 이용하실 수 있습니다.

✓ AI 활용 수준진단
📞전화수준진단교육 문의하기