폐쇄망에서도 돌린다 — Qwen coder 30b를 코덱스(Codex) 하네스에 연동한 실전 셋업

저녁 5시 46분, 한 참여자가 회사 선임에게 "너무 AI 의존 하는거 아니냐"는 핀잔을 들었다며 하소연을 꺼냈다. 곧바로 다른 참여자가 받아쳤다.

"너무 AI 의존 하는거 아니냐고"

"에이전트 안쓰는 순간은 이제 오지 않을지도"

핀잔에서 시작된 대화는 곧 폐쇄망에서 AI를 어떻게 쓸 것인가라는 실무적인 질문으로 옮겨갔다. 한 참여자가 맥북 M3 36GB에서 Qwen coder 30b를 돌리고, 이를 anythingLLM 문서 검색과 연동한 뒤 다시 코덱스(Codex) 로컬 프로바이더에 물려 코덱스 하네스로 굴리는 셋업을 공개했다.

"codex 하네스로 돌리는 셋팅해놨어여"

외부 API 접근이 막힌 환경에서도 로컬 모델과 문서 검색, 코딩 하네스를 하나의 파이프라인으로 엮었다는 점에서 구체적인 실전 사례로 읽힌다. 회사에서 "AI 의존"이라는 지적을 받은 바로 그 하소연 뒤에, 정작 폐쇄망 제약을 뚫고 자동화를 계속 굴리는 방법이 곧바로 이어졌다는 순서가 눈에 띈다.

대화는 아직 나오지 않은 다음 모델에 대한 기대로 이어졌다. 다른 참여자는 아직 공개되지 않은 Qwen 3.8 27b가 코딩 성능에서 Gemini 3.5 flash급은 될 것 같다고 기대를 보탰다.

"코딩은 gem 3.5 flash 만큼은 치지않을까싶어요"

이 예상은 아직 데이터로 확인된 건 아니지만, 로컬 모델의 코딩 성능을 상용 API 모델과 나란히 저울질하는 습관이 이 방에 이미 자리 잡았다는 것을 보여준다. 의존을 지적받는 처지와, 그 의존을 폐쇄망 안에서도 유지하려는 실전 셋업이 같은 대화 안에 나란히 놓였다는 점은, 이 커뮤니티에서 AI 활용이 선택이 아니라 환경 제약과 무관하게 지켜야 하는 작업 방식으로 굳어지고 있음을 시사한다. 상용 API가 막힌 자리를 로컬 모델과 자체 파이프라인으로 메우는 방식이, 적어도 이 방 안에서는 예외가 아니라 하나의 대응으로 통용되고 있는 모습이다.

이 셋업이 특히 눈에 띄는 이유는 소비자용 노트북 한 대에 문서 검색부터 코딩 하네스까지 세 단계 파이프라인을 전부 얹었다는 점이다. 서버급 GPU 없이 맥북 한 대로 30B급 모델을 굴리면서도 코덱스 로컬 프로바이더 연동까지 마쳤다는 것은, 상용 API를 배제한 작업 환경을 이미 개인 단위에서 구성할 수 있다는 뜻이다. 폐쇄망이라는 제약이 오히려 이런 완결형 셋업을 만들어내는 동기가 됐다고도 볼 수 있다. 아직 나오지 않은 Qwen 3.8 27b에 대한 기대까지 같은 대화 안에 얹혔다는 것은, 이 참여자들이 지금 셋업에 만족하는 것을 넘어 다음 모델로 언제 갈아탈지를 이미 저울질하고 있다는 뜻으로 읽힌다.

문서 검색 도구와 코딩 하네스를 각각 따로 붙이는 대신 하나의 로컬 모델을 축으로 두 기능을 동시에 얹었다는 점도 곱씹어볼 대목이다. 처음엔 회사에서 지적받은 개인적인 습관 이야기로 시작했지만, 대화가 끝날 무렵엔 상용 서비스 없이도 굴러가는 구체적인 아키텍처 하나가 공유돼 있었다. 짧은 하소연 하나가 실전 셋업 공유로 이어지는 이런 흐름은, 이 방에서 불편함을 토로하는 일과 해결책을 찾아 나서는 일이 그리 멀리 떨어져 있지 않다는 것을 보여준다.