RAG는 쉽다, 그다음이 어렵다 — 정부 AI 바우처까지 얽힌 질문
한 참여자가 RAG 챗봇 구축을 문의하자, 다른 참여자는 문서 검색 자체보다 활용 설계와 SI·발주 기업 여부가 더 중요하다고 답했다. 정부 AI 바우처가 걸린 실제 발주 문의로 이어진 것으로 보인다.
밤 10시 6분, 한 참여자가 조심스레 말을 꺼냈다. "rag 해보신분 좀 물어보고 싶은게 있는데"라는 짧은 질문에, RAG(검색증강생성, Retrieval-Augmented Generation) 챗봇을 실제로 다뤄본 다른 참여자가 답을 이어받았다.
다른 참여자는 우선 구조부터 짚었다. "그냥 문서를 RAG한다"는 것 자체는 어렵지 않다고 선을 그은 뒤, "그걸로 뭘 하게 만드느냐가 어렵습니다"라며 진짜 난관은 그 이후의 활용 설계에 있다고 답했다. 한 참여자는 곧바로 목적을 구체화했다. "RAG 챗봇 구축해주고"라는 말로, 단순한 문서 검색을 넘어 챗봇 형태의 결과물을 염두에 두고 있다는 점을 밝혔다.
이 방에서 RAG는 더 이상 생소한 개념이 아니다. 질문의 초점이 해본 사람이 있느냐가 아니라 곧장 무엇을 만들 것인가로 넘어갔다는 점이, 문서를 검색 가능하게 만드는 일 자체는 이미 진입장벽이 낮아졌다는 방증으로 읽힌다.
대화는 이어서 프로젝트의 성격을 확인하는 쪽으로 좁혀졌다. 다른 참여자는 "RAG를 해주려 하시는 SI 회사 의 입장이세요"라고 되물으며, 한 참여자가 직접 개발을 맡는 SI(시스템 통합) 업체 입장인지, 혹은 개발을 맡기는 발주 기업 쪽인지부터 확인했다.
RAG를 해주려 하시는 SI 회사 의 입장이세요
이 구분이 갈리면 정부 AI 바우처(중소기업 AI 도입 지원사업)를 활용하는 구조도 함께 달라지기 때문으로 보인다. 발주자가 직접 예산을 쓰는 경우와, SI 업체가 여러 고객사를 상대로 같은 구조를 반복 적용하는 경우는 챗봇을 설계하는 방식 자체가 달라질 수밖에 없다. 정부 AI 바우처 사업은 통상 SI 업체가 사업자로 선정돼 여러 발주 기업에 도입을 지원하는 구조를 취하는 만큼, 다른 참여자가 굳이 입장부터 확인한 것도 이 구조에 따라 견적과 산출물의 형태 자체가 달라지기 때문으로 보인다.
질문이 RAG를 다뤄봤는지 확인하는 데서 시작해 SI냐 발주 기업이냐를 가리는 데까지 번진 흐름은, RAG 챗봇 구축이 이제 기술 구현보다 사업 구조를 먼저 정하는 문제에 가깝다는 점을 보여준다. 문서를 검색 가능하게 만드는 일 자체는 커뮤니티 안에서 이미 당연한 전제로 다뤄지고, 대화의 무게는 오히려 그 이후 단계로 옮겨간 셈이다.
두 참여자의 대화는 이후 공개된 방을 벗어나 개인 대화로 넘어갔다. 정부 지원사업이 걸린 실제 발주 문의였을 가능성을 시사하는 대목으로, RAG 자체보다 그것을 누구를 위해 어떤 계약 구조로 만드느냐가 커뮤니티 안에서도 실무적으로 오가는 질문이 되고 있음을 보여준다. 짧은 질문 하나가 SI냐 발주 기업이냐를 가리는 실무적 확인으로 이어졌다는 점은, 이 방이 정보 교류를 넘어 실제 사업 문의가 오가는 창구 역할도 겸하고 있음을 보여준다.