3090 한 대로 오퍼스 4.6급이라는 반응, 클로드는 워터마크로 한글이 깨진다는 제보

밤 10시 8분, 한 참여자가 3090 그래픽카드와 llama.cpp로 로컬 환경에서 초당 40토큰 정도의 속도가 나온다는 후기를 올렸다. 소비자용 GPU 한 대만으로 낸 수치였다.

"3090 + llama.cpp로 40정도 나옵니다"

뒤이어 밤 10시 22분, 같은 하드웨어에 큐웬(Qwen) 3.8 27B 모델을 로컬로 올려 슈퍼마리오 게임을 만들게 해봤다는 좀 더 구체적인 후기가 나왔다. 이를 지켜본 다른 참여자는 결과물 수준이 그 정도면 클로드 오퍼스(Opus) 4.6급이라며 놀라움을 감추지 않았다.

"엥 오퍼스 4.6 급인데요"

화제는 곧 클로드 자체의 최근 변화로 옮겨갔다. 밤 10시 39분, 한 참여자는 클로드 답변에 워터마크가 심어진 이후로 만족도가 크게 떨어졌다고 토로했다.

"워터마크 이후로 클로드 만족도가 너무 떨어졌는데"

이어진 대화에서는 워터마킹 과정의 BPE(Byte Pair Encoding) 인코딩 문제로 한글 텍스트가 주변부로 밀리거나 아예 깨지는 현상이 구체적으로 짚어졌다. 한 참여자는 한글은 원래도 강한 하네싱(harnessing, 프롬프트로 모델 출력을 세밀하게 통제하는 작업)이 필요한 언어라고 짚었고, 곧이어 다른 참여자는 소넷(Sonnet) 모델에서는 아예 글자가 깨지는 수준이라고 사례를 보탰다.

"한글은 강한 하네싱이 필요하긴 해요"

"소넷에선 아예 글자가 깨지는 수준이고"

이날 이 화제에는 방 참여자 78명 가운데 8명이 총 50건의 메시지를 주고받았다. 참여 인원은 다른 화제보다 적었지만, 로컬 구동 성공담과 클라우드 모델의 품질 저하 지적이 짧은 시간 안에 연달아 나올 만큼 밀도 있는 대화였다.

두 소주제가 한 화제 안에서 이어진 순서도 눈여겨볼 만하다. 로컬 GPU로 상용 모델급 결과를 낸 성공담이 먼저 감탄을 이끌어낸 직후, 정작 상용 클라우드 모델 쪽에서는 워터마킹이라는 새 기능이 한글 품질을 갉아먹는다는 지적이 뒤따랐다. 대화의 무게중심이 '로컬이 얼마나 따라왔나'에서 '클라우드가 무엇을 잃었나'로 옮겨간 셈이다.

소비자 GPU 한 대로 로컬 모델을 돌려 상용 최신 모델급 결과를 냈다는 후기와, 정작 그 상용 모델 쪽에서는 워터마킹이 한글 출력 품질을 해치고 있다는 지적이 같은 대화 안에서 나온 것은, 로컬 구동 환경의 완성도가 빠르게 따라붙는 한편 클라우드 모델의 부가 기능이 한국어 사용자에게는 오히려 체감 품질을 깎아먹는 부작용으로 나타나고 있음을 시사한다.