말이 많아진 중국 모델, 처방은 effort를 낮추는 것이었다

밤 11시가 되자 방에는 먼저 다른 중국 모델 구독자들을 부르는 말이 돌았다. "일어나라 알쫀쿠인들이여" "알쫀쿠의 시간이 왔군요"라는 인사가 오간 직후, 한 참여자는 그 구독조차 18달러로는 많이 부족하다고 짚었다. 밤 11시대가 여러 중국 모델 사용자들에게 이미 한도를 신경 쓸 수밖에 없는 시간이었다는 배경이다.

바로 그 시간대에 한 참여자가 조심스럽게 물었다. "혹시 Qwen 3.8 주저리하는 현상은" 무엇 때문이냐는 것이었다. 답은 곧바로 돌아왔다. "중국모델 종특입니다"라는 진단과 함께, 처방도 함께 나왔다 — "effort를 미디엄이나 하이로 내려서 쓰셔요"라는 것이었다. xhigh로 두면 그 장황함이 유독 심해진다는 설명이 뒤따랐다.

질문한 참여자는 곧바로 반신반의했다. "하이로 내려도 쓸만할까유"라고 되물었고, 답한 참여자는 "high까진 충분하더라구요"라며 자신의 경험을 근거로 댔다. 질문한 참여자는 "옹 넹 그럼"이라며 일단 설정을 바꿔 보기로 했다. 그사이 다른 참여자는 자신도 주간 한도가 초기화되면 같은 방법을 시도해 보겠다고 남겨, 이 처방이 한 사람의 실험에서 끝나지 않을 조짐을 보였다.

설정을 바꾸고 결과를 기다리는 사이, 질문한 참여자는 걱정을 하나 더 꺼냈다. "주저리주저리 하는게 토큰을 더 쓰진 않겠지요.. 흠"이라며, 장황함 자체가 이미 비용으로 새고 있었던 게 아니냐는 의심이었다. 몇 분 뒤 실제 결과가 올라왔다. "high로 바꾸니 진짜 말 나오는게 없어지네요 와"라는 문장이었다. 처방이 통했다는 뜻이었다.

여기에 곧바로 제동이 걸렸다. 다른 참여자가 "더 쓸걸요?"라며 끼어들었다. 장황한 답변을 줄였다고 해서 그동안의 비용까지 없던 일이 되는 건 아니라는 지적이었다 — "그것도 비싼 아웃풋토큰"이라는 말로, effort를 낮추는 게 지금부터의 해법일 뿐 이미 새어 나간 비용을 되돌려 주진 않는다는 점을 짚었다.

이 대화의 마지막 반전은 질문했던 참여자 자신에게서 나왔다. "어우 high 고정해야겠다"고 마음을 정한 뒤, "지금까지 계속 xhigh 쓰고 있었어요"라고 뒤늦게 밝힌 것이다. 처음부터 가장 장황해지는 설정을 켜 둔 채 중국 모델의 습성을 탓해 왔던 셈이다. 진단은 모델 종특이라는 데서 출발했지만, 결론은 결국 자신의 설정값을 들여다보는 데서 끝났다.

같은 밤 다른 참여자들 사이에서도 중국 모델의 느린 응답과 장황함에 대한 불만이 따로따로 흘러나왔던 걸 감안하면, 이 짧은 문답은 그날 방을 떠돌던 막연한 불평에 처음으로 구체적인 손잡이를 달아 준 셈이다. effort 값 하나를 낮추는 것만으로 증상이 사라졌다는 사실은, 새 모델을 쓸 때 기본값을 그대로 두고 불평부터 하는 습관을 한 번쯤 되짚어 볼 이유이기도 하다. 특히 이 방에서 장황함이 곧 출력 토큰 비용으로 읽혔다는 점은, 설정값 점검이 취향 문제가 아니라 한도 관리의 일부로 다뤄지고 있음을 시사한다. 한도를 신경 쓰던 밤 11시대에 이 문답이 나온 것도 우연은 아니었던 셈이다.