기업의 마케팅 또는 IT 담당자들은 생성형 AI를 활용해 고객 문의에 응대하고 콘텐츠를 만들고 싶어 합니다. 하지만 단순히 AI를 도입하는 것을 넘어, 어떻게 하면 AI가 기업의 공식 입장을 정확하게 전달하게 할 수 있을지, 즉 신뢰도 높은 지식 저장소(RAG)를 구축하는 구체적인 절차에 대해 궁금해합니다. 모든 문서를 AI에게 한 번에 넘겨주면 알아서 학습할 것이라는 막연한 기대감 대신, 체계적이고 검증된 방법론을 찾고 있는 것입니다.
일반적인 RAG 구축 방식은 기업이 가진 모든 문서(PDF, 웹페이지, 매뉴얼 등)를 일단 시스템에 업로드하는 '자료 우선' 접근을 취합니다. 이 방식은 빠를 수 있지만, 오래되거나 중요하지 않은 정보가 섞여 AI가 부정확한 답변을 생성할 위험이 있습니다. 또한, 정작 고객이 궁금해하는 질문에 대한 핵심 근거 자료는 누락될 수 있습니다.
반면 KOIS 지식엔진의 '질문 우선' 접근법은 정반대입니다. 먼저 고객이 실제로 궁금해하는 질문 목록을 확정하고, 그 질문에 답하기 위해 어떤 공식 자료가 필요한지를 역으로 추적하여 RAG 지식보관소를 구성합니다. 이는 처음부터 목표 지점을 명확히 하므로, 자료 준비와 검수 과정의 비효율을 줄이고 답변의 정확성을 높이는 데 효과적입니다.
적용 순서
KOIS 지식엔진은 다음과 같은 체계적인 절차에 따라 질문별 공식 근거자료 기반의 RAG 지식보관소를 구축합니다.
- 고객 기본자료 분석: 먼저 회사소개서, 제품소개서, 기존 FAQ 등 고객의 비즈니스를 이해할 수 있는 핵심 자료를 분석합니다.
- 질문 후보 생성: KOIS의 질문연구소에서 분석된 자료와 시장 데이터를 바탕으로 잠재 고객이 궁금해할 만한 질문 후보 목록을 만듭니다.
- 최종 질문 100개 확정: 고객사 담당자와 함께 질문 후보를 검토하며 비즈니스 우선순위에 맞게 질문을 수정, 추가, 삭제하여 최종 100개의 질문을 확정합니다.
- 필요 근거자료 목록화: 확정된 100개 질문 각각에 대해, 답변을 생성하는 데 필요한 공식 근거자료(가격표, 기술문서, 정책 등) 목록을 구체적으로 작성합니다.
- 자료 상태 점검: 각 질문별로 근거자료가 '충분', '일부 부족', '없음', '고객 확인 필요' 중 어떤 상태인지 체계적으로 점검합니다.
- 부족 자료 확보: 자료가 부족하거나 없는 경우, 고객에게 추가 자료를 요청하거나 담당자 인터뷰를 진행하여 공식적인 답변 근거를 확보합니다. 문서화되지 않은 내용도 인터뷰 후 고객의 승인을 거치면 공식 자료가 될 수 있습니다.
- 콘텐츠 생성 및 고객 검수: 확보된 공식 근거자료만을 바탕으로 AI가 콘텐츠 초안을 생성합니다. 이 초안은 고객 담당자의 최종 검수와 승인을 거쳐야만 외부에 공개됩니다. 근거가 끝까지 확보되지 않는 질문은 콘텐츠로 만들지 않고 보류하거나 다른 질문으로 교체합니다.
이러한 과정을 통해 구축된 RAG 지식보관소는 단순한 문서 모음이 아닌, 기업이 신뢰성을 보증하는 질문-답변 지식 자산이 됩니다.
"그냥 우리 회사 문서 전부 다 주면 AI가 알아서 정리해 주는 것 아닌가요?"
질문 없이 자료만 모으면 불필요한 정보가 과도하게 포함되고 정작 중요한 질문에 대한 근거는 빠질 수 있습니다. 이는 AI가 오래되거나 부정확한 정보로 답변하게 만들어 기업의 신뢰도를 떨어뜨릴 위험을 높입니다.
"질문을 먼저 정하는 방식은 너무 번거롭고 시간이 오래 걸릴 것 같아요."
오히려 어떤 자료를 준비해야 할지 목표가 명확해져 고객의 자료 준비 시간을 단축시킵니다. 또한, 처음부터 답변 가능한 질문에 집중하므로 불필요한 콘텐츠를 만들고 검수하는 과정을 줄여 전체 프로젝트 효율을 높일 수 있습니다.
"자료가 부족하면 AI가 알아서 인터넷을 찾아보고 그럴듯하게 채워주면 안 되나요?"
가격, 정책, 제품 사양 등 기업의 고유한 사실은 AI가 추측해서는 안 됩니다. 이는 허위 정보 제공으로 인한 법적 문제나 고객 신뢰도 하락으로 이어질 수 있습니다. KOIS 지식엔진은 공식 근거가 없으면 콘텐츠를 생성하지 않는 것을 원칙으로 합니다.
"담당자 인터뷰 내용도 공식 자료가 될 수 있나요?"
네, 가능합니다. 기존 문서에 없더라도 담당자가 공식적으로 확인해 준 내용은 인터뷰 후 정리하여 고객사의 최종 승인을 거치면 신뢰성 있는 RAG 근거자료로 사용할 수 있습니다.
체크리스트
* 귀사의 영업, 마케팅, 고객지원팀에서 자주 받는 고객 질문 목록을 정리해 보세요. * 가격표, 기술 사양서, 서비스 정책 등 기업의 공식 입장을 담은 핵심 문서들이 어디에 어떻게 보관되어 있는지 현황을 파악해 보세요.
