오푸스가 갑자기 빨라졌다? — 새벽 품질저하·양자화 의혹

21일 새벽 1시를 전후해 에르메스단 채팅방에는 앤트로픽의 최상위 모델 오푸스를 둘러싼 불만이 잇따라 올라왔다. 요지는 단순했다. 응답 속도는 눈에 띄게 빨라졌는데, 결과물의 품질은 오히려 떨어졌다는 것이다. 한 이용자는 "지금 엄청 빨라지고 멍청해진 것 같다"고 적었고, 비슷한 시각 다른 참가자도 체감 변화가 뚜렷하다는 반응을 내놓으며 대화가 빠르게 이어졌다.

가장 구체적인 증언은 작업 소요 시간 비교에서 나왔다. 평소 2시간 가까이 걸리던 작업이 이날은 30분도 채 걸리지 않고 끝났다는 것이다. 겉으로 보면 반가운 변화일 수 있지만, 참가자들의 해석은 정반대였다. 짧아진 시간만큼 모델이 충분히 사고하지 않고 답을 내놓았을 가능성이 높다는 의심이었다. 이 지점에서 자연스럽게 나온 추측이 '양자화'였다. 한 이용자는 "오푸스 5가 나오려나 보다"라며, 신모델 출시를 앞두고 기존 모델의 연산 부담을 줄이기 위해 정밀도를 낮추는 양자화 조치가 선제적으로 들어간 것 아니냐는 해석을 내놓았다. "보통 새 모델을 낼 때 캐파를 확보하려고 기존 모델 양자화를 켜는 것 같다"는 경험칙성 발언도 뒤따랐다.

다만 대화가 진행되면서 단순 양자화만으로는 설명이 안 된다는 반론도 나왔다. 한 참가자는 "같은 작업에 평소 140만에서 220만 토큰을 쓰던 게, 지금은 23만에서 47만 토큰 정도만 쓰고 있다"며 토큰 소비량 자체가 대여섯 배 가까이 줄었다는 실측치를 제시했다. 그는 이 정도 낙폭이 단순히 모델 정밀도를 낮추는 수준의 조치로는 설명하기 어렵고, 추론 과정 자체나 내부 라우팅 방식에 좀 더 근본적인 변화가 있었을 가능성을 제기했다. 토큰 소비가 이만큼 줄었다는 건 답변을 만들어내는 과정 자체가 짧아졌다는 뜻이고, 그 결과가 체감 품질 저하로 이어졌다는 게 그의 논리였다.

물론 이 시점까지는 이용자 체감과 추정에 머무는 이야기다. 앤트로픽 쪽의 공식 설명이 없는 상태에서 속도 변화와 토큰 소비 감소가 실제 모델 아키텍처 변경 때문인지, 일시적인 트래픽 분산이나 내부 라우팅 정책 조정 때문인지는 단정하기 어렵다. 다만 새벽 시간대에 비슷한 경험을 보고한 이용자가 여럿이었다는 점에서, 적어도 이 시간대 오푸스의 응답 특성에 뭔가 변화가 있었다는 사실 자체는 여러 이용자의 독립적인 관찰이 겹친 결과로 보인다. 다음 모델로 알려진 오푸스5의 등장 시점과 맞물려, 이런 체감 변화가 일시적 현상인지 지속적인 흐름인지는 앞으로 며칠간의 사용 후기가 더 쌓여야 가려질 전망이다.