AI에게 회계사무소의 내부 업무규정을 가르치다
"우리 사무소에서 매출 거래를 검토할 때 어떤 기준으로 확인해야 하지?"
단순히 LLM의 얕은 지식에 의존하는 것이 아니라, 회계사무소가 축적한 수십 개의 업무 매뉴얼, 과거 검토 사례, 세무/회계 기준서를 먼저 검색(Retrieval)하여 완벽한 근거를 바탕으로 대답하는 RAG 기반 지식 검색망을 구축합니다.
RAG (Retrieval-Augmented Generation) 란?
RAG는 말 그대로 "먼저 검색(Retrieval)해서, 그 정보로 AI의 지식을 보강(Augmented)한 뒤, 답변을 생성(Generation)한다"는 뜻입니다.
일반 챗봇은 자기가 학습한 과거의 기억에만 의존하지만, 회계 실무에서는 "우리 회계법인의 지난달 개정 매뉴얼"이나 "이 고객사의 특수 계약 조건" 같은 비공개 최신 정보가 필수적입니다.
(관련 매뉴얼 페이지 발췌)
(검색된 텍스트를 기반으로 정리)
Chunk 분할과 Vector DB 구축
수백 페이지짜리 PDF 매뉴얼을 통째로 AI에게 밀어넣을 수는 없습니다. 의미 단위나 페이지 단위로 잘게 쪼개는 것을 Chunking이라고 합니다. 쪼개진 글 조각들을 숫자로 변환(Embedding)하여 Chroma 같은 Vector DB에 저장합니다.
import chromadb client = chromadb.Client() collection = client.create_collection(name="accounting_docs") # 쪼갠 문서(Chunk) 저장하기 collection.add( documents=["매출 거래 검토 시 계약서를 확인한다.", "입금내역과 매출금액을 비교한다."], ids=["doc_001", "doc_002"] ) # 유사 의미 검색하기 (질문) result = collection.query(query_texts=["매출 거래를 어떻게 검토하지?"], n_results=2)
메타데이터(Metadata)와 다중 테넌트(Multi-Tenant) 보안
A 고객사의 계약서를 바탕으로 한 검색 결과가, B 고객사의 질문에 튀어나온다면 그것은 심각한 보안 사고입니다. 이를 방지하기 위해 문서를 저장할 때 반드시 고객 ID (Customer_ID) 등 메타데이터를 꼬리표로 붙여야 합니다.
Vector DB에서 문서를 검색할 때, 단순히 질문과 유사도만 계산하는 것이 아니라 {"customer_id": "C001"} 처럼 조건을 걸어 현재 작업 중인 고객의 문서함 내에서만 결과를 찾아오도록 통제해야 완벽한 회계 시스템이 됩니다.
근거 표시(Citation)와 환각(Hallucination) 방지
회계 AI에서는 AI가 소설을 쓰는(환각) 현상을 철저하게 막아야 합니다. 이를 위해 프롬프트 엔지니어링을 강하게 설정하고, AI의 답변 하단에 무조건 원본 문서의 출처 페이지를 달도록 강제합니다.
[시스템 프롬프트] "반드시 제공된 자료를 근거로만 답변하십시오. 제공된 자료에서 확인할 수 없는 내용은 추측하지 말고 '자료에서 확인되지 않습니다.'라고 답하십시오. 모든 중요한 판단에는 제공된 자료의 파일명과 페이지수를 근거로 명시하십시오."
멀티에이전트(Multi-Agent)와 RAG의 만남
22단계에서 배운 Audit Agent(검증 담당 AI)가 숫자를 대조해 불일치를 찾아내면, 그 숫자가 "우리 사무소 내부 규정에 따르면 과연 문제인가?"를 RAG에게 물어보는 파이프라인이 최종 완성본입니다.
Data Agent : 현재 이 회사의 거래 장부가 "어떻게 기록되어 있는가?" 를 집계합니다.
RAG System : 세법과 회사 매뉴얼에 따르면 "어떻게 기록되어야 맞는가?" 를 검색합니다.
Audit Agent : 이 둘을 비교하여 불일치를 찾아내고, 보고서를 작성합니다.
24단계 예고 : 실무형 회계 SaaS 플랫폼 아키텍처
이제 우리는 엑셀 조작부터 시작해 다중 문서 크로스체크, 멀티에이전트 지휘망, 그리고 지식검색(RAG) 뇌까지 탑재한 AI 코어를 완성했습니다.
다음 24단계부터는 이 거대한 엔진을 "실제 회계사무소가 돈을 내고 구독하는 SaaS(Software as a Service)" 웹 서비스로 올리는 방법론(권한 통제, FastAPI 백엔드, DB 설계, 사용량 과금 구조)을 설계해 보겠습니다.