치과의사 로컬 AI 구축 사례에 두 방이 감탄

같은 글, 두 방의 다른 시선

14일 오전, 한 치과의사가 로컬 환경에 직접 구축한 AI 시스템 글이 더배러와 공공AX 네트워크 두 방에서 같은 날 오전부터 화제가 됐다. 공공AX에서는 이 토픽에 23명이 109건의 메시지를 남겨 그날 방에서 가장 많은 메시지가 달렸고, 더배러에서는 10명이 33건을 보탰다. 하나의 외부 사례가 성격이 다른 두 커뮤니티에서 같은 날 상위 화제로 올라온 셈이다.

더배러의 관심은 비용과 구조에 쏠렸다. 한 참여자가 장비 가격을 짚자 다른 참여자는 장비 구입비로 약 1억 원 안팎을 쓴 사례로 추정했다. 이어 "로컬+자영업구조라 수월하게 되긴 하네요"라는 분석이 나왔고, 로컬 LLM까지 쓴 선택에는 환자 정보가 밖으로 나가면 안 되는 상황이라 합리적이라는 의견이 붙었다. 오후에는 구축에 들인 돈을 얼마 만에 회수할 수 있는지 기간을 계산하는 이야기까지 이어졌는데, 이는 자영업이라는 단위가 투자와 회수를 한 사람의 판단으로 묶을 수 있다는 전제 위에 선 대화였다.

"일단 환자 정보가 외부로 나가면 안되는 상황이라 로컬 llm이 맞아 보입니다."

공공AX에서는 같은 글이 감탄과 자기 점검으로 이어졌다. 여러 지자체·사기업 참여자가 발열, 무정전 전원장치, 스위치 가격 같은 구성 요소를 하나씩 짚으며 감탄했고, 직접 꾸린 장비 구성을 끝까지 읽고 자신의 현재 위치를 돌아보는 반응이 잇따랐다. 한 참여자는 "와.. 진지하게 다 읽고 반성중입니다. 난 뭐하고 있는거지 하고 ㅠㅠ"라고 적었다.

공공 조직이 따라 하기 어려운 이유

공공AX의 대화는 사례 자체보다 ‘왜 우리는 안 되는가’로 옮겨 갔다. 한 참여자는 이 사례가 거의 공공 AX의 추구미인데 분업이 극단까지 간 상태라 저렇게 되지 않는다고 말했다. 한 교육청 참여자와 기초지자체 참여자는 공공은 주관부서 다툼부터 시작해야 한다며, 무언가를 시작하기도 전에 ‘누가 맡을 것인가’를 정리하는 데 힘이 빠진다는 현실을 나란히 꺼냈다.

"공무원은 옆에부서에서 뭘하는지 해본사람 아니면 모름 ㅋ"

한 전산직 참여자는 전산팀이라 장비를 샀다면서, 일반부서가 사면 왜 샀고 어디에 쓰느냐는 추궁을 받는다고 농담조로 말했다. 에이전트를 팀원처럼 굴려 본 적 없다는 참여자에게는 "자동화는 토큰 녹이는 길 ㅋㅋ"이라는 답이 나왔고, 토큰 여유가 없어 선뜻 시도하기 어렵다는 맞장구도 이어졌다. 기술을 몰라서가 아니라 예산과 절차가 먼저 걸린다는 점이 반복해서 확인된 셈이다.

왜 두 방이 같은 날 이 사례를 다뤘나

두 방이 같은 글에 반응했지만 초점은 갈렸다. 더배러는 자영업이라는 의사결정 단위가 작고 환자 정보 보호라는 분명한 이유가 있어 로컬 구축이 성립했다는 데 무게를 뒀고, 공공AX는 같은 구조를 조직 안에서 재현하기 어렵다는 점을 짚었다.

이 대비는 로컬 AI 구축이 기술만큼이나 결정권과 예산 구조의 문제로 받아들여졌음을 시사한다. 한 사람이 장비를 사고 시스템을 설계할 수 있는 환경과, 부서 간 분업과 감사를 거쳐야 하는 환경이 같은 사례를 전혀 다르게 읽게 만든 것으로 보인다. 더배러의 비용 회수 계산이 ‘들인 돈을 언제 되찾나’라는 자영업자의 질문이라면, 공공AX의 자기 점검은 ‘우리 구조에서는 애초에 시작이 되는가’라는 조직인의 질문에 가깝다.

두 방의 반응을 겹쳐 보면, 이 사례에 쏟아진 감탄은 장비의 규모보다 ‘혼자서 끝까지 구축해 냈다’는 실행력에 향한 것으로 보인다. 공공AX의 자기 점검과 더배러의 비용 회수 계산은 방향은 달라도 같은 질문, 곧 ‘우리 환경에서는 어디까지 할 수 있는가’로 모인다. 로컬 AI가 더는 연구실의 이야기가 아니라 각자의 조건에서 ‘될지 안 될지’를 가늠하는 현실의 선택지로 옮겨 왔음을 두 방의 대화가 함께 보여 준다.