잔량 2%를 인증하는 오후 — '토성비'가 성과 지표가 된 날

잔량 2%를 인증하는 오후

오후 2시를 넘기자 방 안 대화의 단위가 바뀌었다. 무엇을 만들었는지가 아니라 얼마가 남았는지가 먼저 올라왔다. 한 참가자가 2%를 보고하자 9%와 1%가 뒤따라 붙었고, 잔량 인증이 인사처럼 줄을 이었다.

"저도 2프로 남았,,,"

남은 양을 아끼는 태도도 같이 공개됐다. 다른 참가자는 소비를 줄이려 스스로를 붙잡고 있다고 털어놨다.

"전 지금 극도의 절제의 마음을 조절중"

GPT-6 아스트라(Astra)로 작업을 옮긴 뒤 토큰이 남지 않는다는 호소는 아침부터 저녁까지 끊기지 않았다. 질문을 꼬리처럼 계속 이어 붙이는 습관이 낭비가 아닌지 되짚는 자기점검이 나왔고, 주말을 어떻게 버티느냐는 걱정으로 옮겨갔다.

오케스트레이션의 목적이 바뀌었다

이 기근이 작업 방식 자체를 건드렸다는 진단이 나왔다. 여러 모델을 엮어 돌리는 오케스트레이션은 원래 단일 모델이 충분히 똑똑하지 않아 서로 검증하고 협업하게 만드는 장치로 설명돼 왔는데, 지금은 이유가 달라졌다는 것이다.

"이제는 토큰이 부족해서 오케스트레이션하네요"

한 문장이지만 설계 동기가 품질에서 자원으로 옮겨갔다는 고백에 가깝다. 같은 작업을 여러 모델에 쪼개 던지는 행위가 더 나은 답을 얻기 위한 절차가 아니라, 한 계정의 잔량이 바닥나기 전에 부하를 분산하는 절차로 읽히기 시작한 셈이다.

'토성비'라는 새 자

기근은 곧 평가의 언어를 만들어냈다. 같은 문제를 훨씬 적은 토큰으로 푸는 사람을 고성과자로 부르는 말이 붙었고, 토큰 대비 성능을 줄인 '토성비'가 농담의 형태로 방의 지표 자리에 올랐다.

"AI 고성과자는 1/5 토큰으로 같은 문제를 해결.."

"토성비 안좋으면 저성과자인 시대라니"

농담의 외피를 걷어내면 평가 기준이 하나 늘어난 장면이다. 무엇을 만들었는지에 더해 얼마를 태워 만들었는지가 같이 따라붙는다. 잔량 인증이 자랑이 아니라 한숨의 형식으로 오간다는 점에서, 이 지표는 아직 자부심보다 압박으로 작동하는 것으로 보인다.

지표가 서자 습관을 되짚는 이야기도 나왔다. 하나의 대화에 질문을 꼬리처럼 계속 이어 붙이는 방식이 맥락을 쌓는 이점보다 낭비를 키우는 쪽이 아닌지 스스로 점검하는 발화다. 같은 답을 받기 위해 오가는 횟수, 대화 하나가 품고 있는 맥락의 길이까지 비용 항목으로 세어 보기 시작했다는 뜻이며, 프롬프트를 잘 쓰는 기술과 적게 쓰는 기술이 갈라지는 대목으로 읽힌다.

한도가 설계 조건이 되는 국면

하루의 흐름을 모아 보면 순서가 뚜렷하다. 더 강한 모델로 옮겨간 선택이 먼저 있었고, 그 선택의 청구서가 잔량으로 돌아왔으며, 청구서를 피하려 작업을 쪼개는 구조 변경이 뒤따랐다. 성능을 얻는 대가가 월 요금이 아니라 하루 단위의 잔량 관리로 청구되는 구조라면, 도구 선택의 기준에 한도와 소모율이 성능과 나란히 들어올 수밖에 없다.

주말을 어떻게 버티느냐는 걱정이 오후 대화의 끝에 붙은 것도 같은 구조를 보여준다. 잔량이 일정 주기로 회복되는 구조라면 남은 양은 단순한 숫자가 아니라 다음 회복 시점까지의 작업 계획표에 가깝다. 금요일 오후에 2%가 남았다는 보고는 곧 주말치 일정을 다시 짜야 한다는 뜻으로 읽혀서, 비용 관리가 일정 관리와 한 덩어리로 묶이는 셈이다.

주목할 대목은 절제가 개인의 미덕으로 이야기된다는 점이다. 질문을 길게 이어 붙이지 말자는 자기점검이나 주말을 버텨야 한다는 걱정은 모두 사용자가 스스로 부담을 흡수하는 방식이다. 한도가 작업 설계의 1급 제약으로 올라선 지금, 같은 결과를 더 적은 토큰으로 내는 요령이 다음 시기의 실무 역량으로 자리 잡을 가능성을 시사한다.