AI 토큰 예산 편차, 같은 회사 안에서도 극과 극이었다
사내 AI 토큰 예산을 둘러싸고 실사용 편차가 크게 벌어진 하루.
16일 오전, 에이전트코리아 방에서는 AI 토큰 예산(Token Budget, 한 사용자나 조직이 일정 기간 안에 쓸 수 있는 AI 사용량 한도)을 둘러싼 이야기가 오갔다. 한 참여자가 2027년도 사내 AI 토큰 예산안 초안을 공유하며 직급별 기준(일반직원 40달러, 관리팀장 100달러, 개발직 200달러)을 제시했다.
오전 8시 53분, 다른 참여자가 실제 사용 편차가 이보다 훨씬 크다고 짚었다.
쓰려면 한달에 1000달러도 부족하고 안 쓰려면 50달러도 남고요
같은 예산 기준 아래에서도 실사용량이 수십 배까지 벌어질 수 있다는 지적이었다. 오전 10시 5분, 다른 참여자는 대학 사례를 들어 수요 폭증의 규모를 구체적으로 보여줬다.
올해부터 교내 챗 gpt무제한 제공한 서울대 1년치 사용량이 한달만에 동났다고함. 무제한 -> 월2만크레딧 제한 -> 월7000크레딧 제한으로 바뀌었고 현재기준 sol로 월 700번 대화하면 다 소모하는 수준. Ai에 대한 젊은 세대의 수요가 얼마나 많은지 알 수 있는 부분.
12분 뒤, 한 참여자는 5인 규모 회사에서도 감당이 안 된다는 하소연을 보탰다.
저희회사 5명인데도 claude 계정 10개도 한달 감당이 안되는데..
오후 4시 27분, 한 참여자는 "아무나... 딱 한달만 무한 토큰 쓰게 해줬으면 좋겠다"는 말로 하루 내내 이어진 예산 논쟁을 가벼운 농담으로 마무리했다.
이날 오간 사례를 보면, 예산 편차는 조직 규모나 업종과 무관하게 나타났다. 방산업체 실무진은 일반직원 40달러부터 개발직 200달러까지 3단계 정액 기준을 세우려 했고, 대학은 무제한 정책을 한 달 만에 월 2만 크레딧, 다시 월 7000 크레딧 제한으로 두 차례 좁혔으며, 5인 규모 회사는 계정을 늘리는 방식으로도 한계에 부딪혔다. 세 사례 모두 "얼마를 배정할 것인가"라는 질문 자체가 조직마다 다른 답을 낳고 있음을 보여준다.
특히 눈에 띄는 것은 방산업체가 제시한 정액 기준(40 ~ 200달러)과 실사용자가 말한 상한("1000달러도 부족")·하한("50달러도 남고요") 사이의 간극이다. 같은 회사 안에서도 실제 쓰는 사람과 거의 안 쓰는 사람이 같은 예산선 아래 묶여 있다는 뜻이고, 정액제 설계가 이 편차를 흡수하기 어렵다는 점을 그대로 드러낸다. 서울대 사례에서 나온 "sol로 월 700번 대화하면 다 소모"라는 구체적 수치도, 무제한 정책이 예상보다 훨씬 빠르게 소진됐음을 보여주는 근거로 읽힌다.
토큰 예산을 둘러싼 이런 신경전은 AI 사용이 이제 일부 얼리어답터의 취미가 아니라 조직 운영비 항목으로 자리잡았다는 뜻으로 읽힌다. 정액 예산으로는 실제 수요를 따라가기 어렵고, 무제한 정책은 지속 가능하지 않다는 두 극단 사이에서, 각 조직은 아직 뚜렷한 해법 없이 각자의 방식으로 한도를 조정해 나가고 있는 모습이다. 하루의 마지막을 장식한 "무한 토큰 쓰고 싶다"는 농담 섞인 바람조차, 뒤집어 보면 현재의 정액·크레딧 구조 어느 쪽도 실사용자를 완전히 만족시키지 못하고 있다는 방증이다.
이 화두에는 29명이 참여해 162건의 메시지를 남겼다.