핵심 키워드: RAG, Enterprise AI, 엔터프라이즈 AI, AI 에이전트, Ontology, 기업 데이터 분석, SELMA

기업에서 생성형 AI를 도입할 때 가장 많이 언급되는 기술 중 하나가 RAG(Retrieval-Augmented Generation)입니다.
사내 문서나 매뉴얼, 업무 규정 등을 검색한 뒤 관련 내용을 LLM에 전달하면 기업 내부 지식을 활용해 답변할 수 있습니다.
저 역시 개인 프로젝트 SELMA를 개발하면서 RAG를 중요한 기능으로 보고 있습니다.
그런데 기업의 데이터 분석까지 생각하기 시작하면 한 가지 의문이 생깁니다.
RAG만으로 기업의 업무 데이터를 정확하게 이해할 수 있을까?
SELMA를 개발하면서 내린 결론은 RAG가 필요 없다는 것이 아닙니다.
오히려 RAG와 Ontology가 해결하는 문제가 서로 다르다는 쪽에 가깝습니다.
RAG는 기업의 ‘지식’을 찾는 데 강하다
RAG의 기본 아이디어는 비교적 명확합니다.
사용자가 질문하면 관련 문서를 검색하고, 검색된 내용을 LLM의 Context에 넣어 답변을 생성합니다.
예를 들어 회사의 휴가 규정을 묻는다면 인사 규정 문서를 찾아 답할 수 있습니다.
제품 매뉴얼, 업무 가이드, 회의록, 기술 문서처럼 텍스트 안에 답이 존재하는 문제에서 특히 유용합니다.
SELMA에서도 앞으로 Enterprise Knowledge를 연결하기 위해 RAG를 활용할 계획입니다.
하지만 질문이 다음처럼 바뀌면 이야기가 달라집니다.
“8월 매출을 분석해줘.”
이 질문의 답은 어느 PDF 한 페이지에 적혀 있지 않을 수 있습니다.
데이터베이스의 여러 테이블을 읽고, 기업이 정의한 매출의 의미에 따라 계산해야 합니다.

‘매출’이라는 단어 하나에도 업무 의미가 필요하다
예를 들어 데이터베이스에 다음 값이 있다고 가정해보겠습니다.
결제 금액, 주문 금액, 할인 금액, 환불 금액, 판매 수량.
사용자가 “매출”을 물었다고 해서 단순히 이름이 비슷한 sales 컬럼을 찾는 것으로 끝낼 수 없습니다.
기업이 정의한 매출이
결제 금액 – 할인 – 취소·환불
일 수도 있고, 다른 조직에서는 전혀 다른 계산 기준을 사용할 수도 있습니다.
RAG를 통해 “우리 회사의 매출 정의”가 적힌 문서를 찾아 LLM에게 보여줄 수는 있습니다.
하지만 실제 데이터 분석에서는 여기서 한 단계 더 필요합니다.
그 정의가 어느 데이터와 연결되는지, 어떤 관계로 조인되는지, 어떤 계산을 실행해야 하는지가 구조적으로 표현되어야 합니다.
이 지점에서 SELMA가 Ontology와 Contract를 사용하기 시작했습니다.
SELMA에서 Ontology는 무엇을 하는가?
Ontology라고 하면 복잡한 지식 그래프를 먼저 떠올릴 수 있습니다.
SELMA에서는 조금 실용적으로 접근하고 있습니다.
기업 안의 업무 개념들이 어떤 의미를 가지고 서로 어떤 관계에 있는지를 런타임이 이해할 수 있는 형태로 표현하는 것입니다.
예를 들어,
고객 → 주문 → 상품
영업 담당자 → 거래처 → 처방
고객 → 가입 상품 → 해지
같은 관계를 생각할 수 있습니다.
여기에 Data Foundation Contract가 결합되면 매출, 주문 건수, 해지 월요금 같은 지표와 상품, 지역, 채널 같은 분석 기준이 실제 데이터와 연결됩니다.
중요한 것은 LLM이 그 관계를 그때그때 상상하지 않는다는 점입니다.
기업이 선언한 의미와 관계를 Runtime이 읽도록 만드는 것이 목적입니다.

RAG와 Ontology는 경쟁 기술이 아니다
그래서 저는 RAG와 Ontology를 둘 중 하나를 선택해야 하는 기술이라고 생각하지 않습니다.
역할이 다릅니다.
RAG는 “무엇이 문서에 적혀 있는가?”를 찾는 데 강합니다.
반면 Ontology와 Contract는
“이 기업에서 이것은 무엇을 의미하고, 무엇과 연결되며, 어떻게 계산되는가?”
를 구조적으로 표현하는 데 더 적합합니다.
예를 들어 사용자가 이렇게 질문할 수 있습니다.
“우리 회사의 환불 정책이 어떻게 돼?”
이 질문은 RAG가 잘할 수 있습니다.
반면,
“지난달 환불이 매출에 얼마나 영향을 줬어?”
라는 질문에는 정책 문서뿐 아니라 실제 거래 데이터와 매출 정의, 기간, 계산 관계가 필요합니다.
장기적으로 SELMA가 두 영역을 함께 다루려는 이유입니다.
Enterprise AI에는 ‘찾는 것’과 ‘계산하는 것’이 모두 필요하다
기업의 질문은 문서와 데이터 중 하나에만 머물지 않습니다.
규정을 찾고, 실제 데이터를 계산하고, 두 결과를 연결해 판단해야 하는 경우가 많습니다.
그래서 SELMA가 지향하는 구조는 단순한 RAG 챗봇도, 자연어 SQL 도구도 아닙니다.
Enterprise Knowledge는 RAG로 찾고, Business Meaning과 데이터 관계는 Ontology와 Contract로 통제하며, 실제 계산은 검증된 Runtime에서 실행하는 구조에 가깝습니다.
SELMA는 아직 Alpha이고 RAG는 앞으로 본격적으로 추가해야 할 영역입니다.
하지만 먼저 Ontology와 Contract 기반의 데이터 분석 구조를 만든 이유는 분명합니다.
기업 AI에게 필요한 것은 정보를 많이 기억하는 능력뿐 아니라,
기업이 말하는 의미를 정확하게 이해하고 실행하는 능력이라고 생각했기 때문입니다.
다음 3편에서는 여기서 한 단계 더 들어가 LLM이 SQL을 직접 생성하도록 하지 않은 이유, 그리고 자연어 질문과 실제 데이터베이스 실행 사이에 Contract를 둔 이유를 살펴보겠습니다.
#RAG #EnterpriseAI #엔터프라이즈AI #Ontology #온톨로지 #AI에이전트 #LLM #기업데이터분석 #데이터거버넌스 #지식그래프 #AI개발 #SELMA