공공에서 중국 기반 모델을 쓸 수 있는가

오늘 아침 아홉 시를 조금 넘긴 공공AX 네트워크 대화방에 한 참가자가 긴 글을 붙여 넣었다. 챗지피티나 클로드에 매달 큰 토큰 비용을 내고 있다면 뒤처진다는 투의 글이었다. 글은 이렇게 시작해 초대형 모델을 한 대의 장비로 돌린다는 주장으로 이어졌다.

앞서가는 테크 기업들은 이미 7630억 체급의 초거대 모델을 워크스테이션 단 한 대로 내려받아 자체 운영하고 있습니다

체급은 모델의 크기를 말하는 표현으로, 글 뒤쪽에는 파라미터 수가 7600억이라고 적혀 있다. 숫자가 글 안에서도 7630억과 7600억으로 갈린다. 글 바로 뒤에 같은 참가자가 모델 페이지로 보이는 링크를 올렸지만, 글이 어디서 나왔는지는 대화에서 언급되지 않았다. 글은 필요한 장비를 구체적으로 적었다.

단 한 장의 72기가바이트 그래픽카드와 108기가바이트 시스템 메모리만 있으면 충분합니다

속도도 글에 적힌 수치다.

초당 34토큰 속도로 끊김 없이 뽑아냅니다

모두 글쓴이가 쓴 주장이며, 방 안에서 누가 직접 돌려 본 결과는 아니다. 글을 붙인 참가자는 곧이어 같은 내용을 한 줄로 줄여 적었다.

MoE 아키텍처 특성과 오프로딩 기법을 결합해서 워크스테이션급 장비 1대로 압축할 수 있는 기술적 경로가 가능해짐

MoE와 오프로딩은 대화에서 풀이되지 않았다. 붙여 넣은 글에는 자주 쓰는 핵심 부분은 그래픽카드 메모리에 올리고 덜 쓰는 부분은 일반 메모리와 중앙처리장치로 넘긴다는 설명이 있다. 이 기법이 오프로딩을 가리키는 것으로 읽힌다.

구글의 다음 모델을 바라는 마음

이 글에 한 참가자가 이렇게 반응했다.

중국모델 쓴다고 욕 안먹게 구글이 딥시크 성능을 뛰어넘는 gemma5를 하루빨리 출시해야 한다..

중국 모델을 쓰면 비난받는 분위기가 있다는 전제가 이 말 속에 깔려 있다. 그 전제가 어떤 경험에서 나왔는지는 적히지 않았다. 다른 참가자가 짧게 한 마디를 보탰다.

젬마5 나와라

글을 붙인 참가자도 젬마5가 기대된다고 했다. 이 참가자는 이어서 이 대화의 중심이 된 말을 꺼냈다.

저희나라 모델들 대부분 중국모델 기반인데 쩝 ..

국내 모델은 국내 모델인가

그 사이 또 다른 참가자가 지금 로컬 AI 가운데 성능이 가장 앞선 것이 무엇인지 물었고, 중국 모델을 빼면 어떨지 모르겠다는 말을 덧붙였다. 글을 붙였던 참가자는 앞의 지적을 다시 풀었다.

근데 태생이 중국모델인데 국내모델도 국내모델이라고 하는게 맞는가는 모르겠어요

다른 참가자는 다른 쪽에서 이 상황을 봤다. 규모에서 밀리는 국내 업체가 기업에서 쓰이도록 애쓰는 것이 기특하다고 하면서, 중국 모델을 가져다 서비스랍시고 내놓는 것보다는 낫다고 했다. 글을 붙인 참가자는 이 말에 멋있다고 동의한 뒤, 공공에서 중국 모델을 쓰지 말라는 논리가 정치적으로 흘러가는 것이 이해되지 않는다고 했다.

공공서 자꾸 중국모델 쓰지마라 쓰지마라 하는게 의의가 정치적으로 흘러가는게 이해가 안되어서요

이 말을 받아 또 다른 참가자는 정치적인 문제라고 판단하시는군요, 하고 되물은 뒤 이렇게 덧붙였다.

뭐가 맞는 건지 몰라서...

글을 붙인 참가자는 근거가 부족하다고 했고, 배울 것은 배우고 따라갈 것은 따라가야 한다고 말했다.

허용하는 순간 기술력이 내려간다는 우려

앞서 국내 업체를 기특하게 본 참가자는 조금 뒤 다시 입장을 분명히 했다.

공공에서 중국모델 허용하는 순간 보안적인 문제는 차치하더라도 국내ai 기술력은 수준 이하로 내려갈거라 생각합니다.

같은 참가자는 핵심 기술력은 갖춰야 한다는 공감대가 있으니 소버린 AI도 출범한 것 아니냐고 적었다. 소버린 AI는 독자 AI를 뜻하는 말로 보이며, 대화에서 정의되지는 않았다. 이 우려는 한 참가자의 예상이고, 허용이 실제로 국내 기술력에 어떤 영향을 줬는지를 보여 주는 근거는 대화에 나오지 않는다.

한 참가자는 전체 분위기를 이렇게 정리했다.

중국모델 도입 및 허용은 생각이 다들 여러가지로 나뉠 듯하네요

글을 붙인 참가자는 국내 기업들이 뭉치지 않는다고 보고, 그래서 국내 AI는 갈수록 덜 쓰일 것이라고 했다. 잘 뭉쳐서 성공했으면 하는 바람도 함께 적었다.

금지하는 지침은 없다는 전언

논쟁의 끝에 지침 이야기가 나왔다. 중국 모델을 배제하면 어떨지 궁금해했던 참가자가 이렇게 전했다.

아 참고로 중국모델 사용하지말라는 지침은 없습니다

이 참가자는 한 기관의 담당관과 통화했다고 밝히며 한 마디를 덧붙였다.

다만, 국감대응 등등으로 피곤해질 것 같아서 잘 선택은 안하십니다

국감은 국정감사를 가리키는 말로 읽힌다. 누가 선택을 하지 않는다는 말인지는 적혀 있지 않다. 어느 기관이 그렇게 하는지, 통화 내용이 문서로 확인되는지도 대화에 나오지 않았다. 여기까지가 이 대화에서 확인되는 전부다.

이 대화가 보여 주는 것

초대형 모델을 장비 한 대로 돌린다는 글에 달린 반응은 글에 적힌 비용과 폐쇄망 운영의 이점보다 모델의 출신 문제로 옮겨 갔다. 로컬로 돌릴 만한 모델의 선택지가 중국 쪽에 많다는 인식이 앞에 있었고, 그 선택지를 공공이 써도 되는지는 참가자마다 다르게 봤다. 금지 지침이 없다는 전언이 나온 뒤에도 허용 쪽 입장이 정리되었다고는 말하기 어렵다. 지침 부재와 실제 사용 사이에 부담이 끼어 있다는 말만 남았기 때문이다.