중국산 로컬 모델 백도어 우려와 미국산 반론

19일 오전 9시 54분, 공공AX 네트워크에서 한 참가자가 최근 큐웬(qwen) 관련 사고가 있었느냐고 묻고, 이어 오전 중에 관련 문의나 질의가 많이 들어온다고 알렸다. 큐웬은 중국 알리바바가 만든 공개 AI 모델이다(일반 상식에 따른 풀이이며 대화에서 설명되지는 않았다). 이어진 논의에서는 중국산 로컬 모델, 곧 자기 서버에 직접 설치해 쓰는 모델의 사례로 다뤄졌다. 같은 참가자가 앞서 최근 큐웬 관련 사고가 있었느냐고 물은 데 대해, 다른 참가자는 뉴스 링크를 올리며 이렇게 말했다.

사고보다는 이런거 아닐까요

링크의 내용은 대화에서 풀이되지 않았다. 따라서 큐웬 관련 문의가 늘어난 구체적 이유는 이 기사에서도 확인할 수 없다.

성능 때문에 쓴다는 쪽과 백도어 우려

대화에는 두 갈래가 나타났다. 한쪽에서는 현실적인 사정을 말했다.

로컬모델 성능순으로 하면 중국산 써야지 머...

이에 대해 다른 참가자는 중국이라는 점이 중요하다며 우려를 드러냈다. 백도어, 곧 몰래 열어 둔 접근 통로가 있지 않겠느냐는 걱정이다. 이 참가자는 이전에도 그런 경우가 많았으니 이번이라고 다를까 하고 되물었고, 미국이냐 중국이냐는 받아들이는 인식의 큰 차이라고 했다.

백도어가 있지 않을까

여기서 구분할 점이 있다. 이 우려는 과거 사례에 비춘 걱정이고, 대화에서 어떤 모델에서 백도어가 발견됐다는 구체적 근거는 나오지 않았다. 이 걱정에 대해 또 다른 참가자는 백도어를 기우로 본다는 취지로 읽히는 반응을 보였다. 이쪽도 근거를 덧붙이지는 않았다.

미국산도 마찬가지라는 반론

반대편 논거는 두 가지였다. 하나는 미국산 모델도 안전하지 않다는 것이다.

미국산 그록도 백도어 심었다가 걸렸는데요 뭐

그록은 미국 xAI의 챗봇이다(일반 상식에 따른 풀이). 이 문장은 한 참가자의 주장으로만 나왔고 출처나 사건 경위는 대화에 없다. 그록 사례가 사실인지는 이 기사에서 확인할 수 없다.

다른 하나는 업계 전체의 데이터 수집 관행이다. 같은 참가자는 입력한 것은 전부 털린다고 생각하는 편이 맞는 것 같다고 했고, 학습 거부 옵션을 설정해도 과연 보지 않겠느냐고 되물었다.

기본적으로 입력하는거 다 털린다고 생각하는게 맞는거 같아요

또 다른 참가자가 저쪽은 학습 거부의 거부 옵션을 켜 뒀을 것 같다고 한 말은 학습 거부를 무시하도록 해 둔 쪽이 있을 것이라는 농담 섞인 추측으로 읽힌다. 한편 앞서 백도어를 기우로 본다는 취지로 읽히는 말을 한 참가자는 꼬우면 자체 개발하라는 말이 나올 법하지만 그러지 못한다는 취지로 스스로 한탄하듯 덧붙였다. 누구를 겨냥한 말인지는 분명하지 않다.

자체 개발을 못함

망분리는 답이 되는가

중간에는 한 참가자가 망분리가 되어 있어도 백도어가 문제가 되느냐고 물었다. 망분리는 내부 업무망을 외부 인터넷과 떼어 놓는 방식이다. 이 질문에 다른 참가자는 망분리와 별개로 백도어 이슈는 있을 수 있다고 했고, 독립 네트워크를 운영해도 보안 구멍은 어떻게든 존재한다고 봐야 한다고 했다.

또 다른 참가자는 망분리를 엄격하게 지키지 못하는 곳이 있다고 했다. 잠깐 연결된 사이에 털릴 수 있고, 망분리인 줄 알았는데 어딘가 연결돼 있는 경우도 있다는 것이다.

이름만 망분리인거 꽤 있던데요

이는 경험담으로 읽히지만 몇 곳인지, 어느 기관인지는 나오지 않았다. 또 한 참가자는 몇 년 전 공급망 공격이 활발해 자체 개발 하드웨어만 쓰려는 노력이 있었다고 소개했는데 이것도 자료 없이 구두로 전해진 이야기다.

이 대화가 시사하는 것

이 논쟁에서 눈에 띄는 점은 양쪽 모두 구체적 사고나 자료를 내놓지 않았다는 것이다. 우려하는 쪽은 과거의 인상을, 반론하는 쪽은 업계 일반의 관행을 근거로 삼았다. 그래서 어느 쪽이 옳은지는 이 대화로 가릴 수 없다.

다만 대화는 모델의 출처를 따지는 문제와 입력한 정보가 어디로 가는지의 문제를 함께 올려놓았다. 참가자들이 성능 순위와 불신 사이에서 판단 기준을 아직 말로 더듬고 있는 장면으로 읽힌다. 참가자 개인의 의견이며, 공공기관 전체의 입장이 아니다.