공공 AI 챗봇이 도는 길은 기관마다 달랐다 — 래핑 서비스·로컬 모델 경로와 범정부AI공통기반·온AI·AI정부실험실 구분이 정리됐다

자정을 앞둔 공공AX 네트워크 방에 질문 하나가 던져졌다. 부서마다 AI 챗봇과 AI 시스템을 구축했다고 홍보하는데, 실제로는 어떤 모델이 돌아가느냐는 것이었다.

공공에서 AI 구축했다고 성과 홍보하는건 도대체 어떤 모델이에요??

이 주제에는 8명이 27건을 주고받았다. 발화 수로 보면 이날 방의 큰 주제는 아니었다. 그래도 공공 AI 사업의 실제 구성을 기관 안쪽 사람들이 직접 풀어놓았다는 점에서 눈여겨볼 대화다.

기관마다 다른 경로

답은 기관 사정에 따라 갈렸다. 한 연구기관 쪽 참여자는 내부에 구글 공개 모델 gemma3를 도입했고, 로컬 모델이 필요한 부서에는 맥미니를 안내한다고 했다. 한 공무원 참여자는 웍스AI처럼 기존 AI 모델을 감싸 제공하는 래핑 서비스, 기관 내부 로컬 구동, 국가정보자원관리원(국정자원)의 민관협력(PPP) 클라우드 등 기관 사정별로 경로가 여럿이라고 설명했다.

웍스AI 라는 서비스를 이용하는 기관들이 많고, 이 AI플랫폼 위에 챗봇 만들고 홍보하는 경우가 많습니다.

한 참여자는 깊게 들어가면 어렵지만 일단 데이터를 넣고 LLM을 붙이면 답변은 한다고 짚었다. 성과로 홍보되는 챗봇 상당수가 자체 모델 개발이라기보다 기존 플랫폼 위에 얹은 형태일 수 있음을 시사한다.

비슷한 이름, 다른 층

이어 범정부AI공통기반·온AI·AI정부실험실의 관계를 묻는 질문이 나왔다. 중앙부처 쪽 한 참여자가 이를 세 갈래로 정리했다. 범정부AI공통기반은 업무망 API(B2B), 온AI는 업무망에서 민간 웍스(업무 협업 도구)와 AI채팅을 제공하는 서비스(B2C), AI정부실험실은 공무원용 깃허브라는 설명이다. 그는 AI정부실험실이 개발에 필요한 원격서버와 코덱스 구독도 일부 제공한다고 덧붙였다.

비슷해 보이는 이름이 API, 채팅 서비스, 개발 환경으로 층이 나뉜다는 정리였다. 이 구분을 묻는 질문이 따로 나왔고, 한 참여자가 처음엔 범정부AI공통기반과 온AI를 같은 것으로 안내했다가 정리가 뒤따랐다는 점에서, 정책 명칭이 실무자 사이에서도 헷갈리고 있음을 엿볼 수 있다.

한 참여자는 AI정부실험실에서 원격서버와 코덱스 구독을 일부 받을 수 있다고 설명했다. 한 사례이긴 하지만, 공공 AI가 외부 발주만이 아니라 공무원이 직접 만드는 쪽으로도 길이 있음을 보여 준다. 같은 날 방에서 AI 교육과정 실습 결과물인 토지 인허가 사전진단이 공유된 것도 이런 흐름과 맞닿아 보인다.

홍보와 실체 사이

이 대화는 AI를 구축했다는 말이 가리키는 범위가 기관마다 크게 다를 수 있다는 점을 드러낸다. 오픈 모델을 내부에 올린 곳, 래핑 서비스 위에 챗봇을 만든 곳, 공통기반의 API를 쓰는 곳이 모두 같은 말로 홍보될 수 있다. 다만 어느 기관이 어떤 경로를 쓰는지, 성능 차이가 어떤지는 이날 대화에서 확인되지 않았다. 기관 사람들이 서로의 경로를 묻고 답하는 이 방이 공식 안내가 채우지 못한 빈칸을 메우는 창구 구실을 하는 것으로 보인다.