코딩용 100달러 요금제를 가른 체감·토큰·캐시

일요일 오후 3시 49분, 에이전트코리아에 한 참가자가 질문을 올렸다. 주로 코딩을 하는데 클로드와 GPT 중 100달러 요금제를 하나만 결제한다면 어느 쪽이냐는 것이었다. 오늘 아침판에서 다룬 아스트라와 오퍼스 5.5 평가의 연장선에서, 이번에는 돈을 내는 선택의 문제로 내려왔다.

답은 클로드 쪽으로 기울었지만 하나는 아니었다

바로 클로드라는 답이 두 건 달렸고, 한 참가자는 GPT를 쓴다고 했다. 3년 전부터 GPT만 쓰다가 5.5가 나오고 클로드로 갈아탔다는 참가자는 GPT도 함께 쓰고 있다고 했다. 비용도 그렇지만 성능도 지금은 GPT보다 클로드 5.5 쪽이라는 것이 그 참가자의 체감이었다. 오퍼스 5.5가 정말 좋다는 맞장구도 이어졌다.

3시 53분 질문자가 요즘 클로드 토큰 양은 괜찮은지 되묻자 이런 답이 왔다.

캐시효율이 좋아져서 토큰양도 나름 옛날에비하면 꽤나 넉넉해졌다고 느끼는중입니다

고민하던 다른 참가자는 클로드로 가야겠다고 했다. 다만 이는 몇 사람의 체감이고, 비용이나 사용량을 잰 비교는 공유되지 않았다.

일은 클로드, 연구는 아스트라

에르메스단에서도 같은 갈림길이 오후 2시대에 나왔다. 2시 22분 한 참가자가 아스트라 때는 코덱스가 너무 좋았는데 요즘은 쓸 필요가 있나 싶다고 하자, 2시 31분 다른 참가자가 요즘 클로드가 훨씬 좋으냐고 묻자 지금은 클로드 시대라는 답이 나왔다. 2시 32분 같은 참가자는 2주 전까지는 아스트라가 최고였던 것 같은데 그새 클로드가 더 좋아진 것이냐고 되물었다.

일시키기엔 클로드

연구는 아스트라가 잘할 것 같다는 말과 함께 나온 분담이다. 2시 34분에는 벤치마크 성능보다 체감 성능이 중요하다는 말이 붙었고, 높은 설정으로 돌리면 품질은 좋지만 토큰 압박은 어쩔 수 없다는 의견도 있었다.

모델을 바꾸면 캐시는 어떻게 되나

토큰 여유 이야기에 나온 캐시는 에르메스단 오전 대화에서 따로 다뤄졌다. 10시 57분 한 참가자가 클로드 코드에서 모델 라우터를 쓰는 사람에게 캐시가 깨지는 것을 감수하는 이유를 물었다. 11시 16분에는 같은 세션에서는 캐시를 유지한 채 모델과 effort를 바꿔 준다는 답이 나왔고, 11시 26분에는 공식 문서의 한 문장이 올라왔다.

Each model has its own cache.

참가자가 가져온 문서 문장은 모델을 바꾸면 다음 요청이 대화 전체를 캐시 없이 다시 읽는다는 내용으로 이어졌다. 두 설명이 어떻게 맞물리는지는 대화 안에서 정리되지 않았다. 오후 2시 5분에는 레딧에서 가장 추천받은 클로드 코드 팁이 세션을 끊으라는 것이라는 글이 공유됐고, 한 참가자는 세션을 짧게 가져갈수록 좋은 것은 사실이라고 했다.

고르는 기준은 체감, 여유, 캐시

세 대화를 이으면 기준은 성능 체감, 토큰 여유, 캐시 유지로 모인다. 요금제를 고르는 일이 어떤 모델이 똑똑한가의 문제를 넘어, 얼마나 오래 끊김 없이 쓰느냐의 문제로 옮겨 간 것으로 보인다. 정답이 하나로 모이지 않았다는 점에서 이 비교는 아직 개인의 작업 방식에 달려 있다.