96번 재시도로 주간 토큰 30% 증발 — 아스트라 리셋 소동

더배러 방의 아침은 토큰 소진 이야기로 분주했다. 한 참여자가 "오늘 10시경에 codex리셋입니다 흑흑"이라며 자신의 코덱스 사용량이 초기화됐음을 알렸고, 뒤이어 다른 참여자는 "한 4개 플젝 동시에 아스트라로 돌렸더니 10분만에 주간한도 16퍼 썼네요"라고 전했다. 여러 프로젝트를 동시에 아스트라에 맡긴 결과 채 10분도 안 돼 한 주간 한도의 6분의 1가량이 사라진 셈이다. 오전 10시 25분경에는 또 다른 참여자가 "저는 코덱스 리셋 됐네요"라며 리셋 소식을 이어 전했다.

오후 들어서는 훨씬 큰 규모의 사고가 공유되며 방 분위기가 한 번 더 술렁였다. 한 참여자는 "방금도 아스트라가 헛짓거리 하는거 발견해서 중지시켰는데 주간토큰을 30퍼를 날려먹었네요"라고 털어놨다. 뒤이어 구체적인 수치가 공개됐다. "60만토큰을 96번 돌림"이라는 발언이었다. 하나의 작업을 아스트라가 96차례나 반복 재시도하는 동안 사용자가 알아채지 못한 채 주간 한도의 30%인 60만 토큰이 소모된 것이다.

이날 오간 대화들은 두 가지 서로 다른 성격의 소진을 함께 보여준다. 하나는 여러 프로젝트를 동시에 돌리며 의도적으로 빠르게 토큰을 태우는 경우이고, 다른 하나는 아스트라가 스스로 같은 작업을 반복하며 사용자도 모르게 한도를 갉아먹는 경우다. 전자는 사용자가 속도와 처리량을 맞바꾸는 선택이지만, 후자는 통제 밖에서 벌어지는 손실이라는 점에서 성격이 다르다. 96회 재시도라는 수치가 공유되자 방 안에서는 이런 폭주 재시도를 사전에 막을 장치, 이를테면 재시도 횟수 자체를 제한하는 조치가 필요하다는 공감대가 형성된 것으로 보인다.

코덱스·아스트라를 둘러싼 리셋과 소진 이야기가 하루 사이에 반복적으로 오간 것은, 사용량 관리가 더 이상 "얼마나 아껴 쓰느냐"의 문제만이 아니라 "AI가 스스로 얼마나 반복하는지를 어떻게 감시하느냐"의 문제로도 옮겨가고 있음을 시사한다. 특히 60만 토큰이 96번의 재시도로 소모됐다는 사례는, 사용자가 작업을 맡겨 놓고 자리를 비운 사이에도 대규모 손실이 발생할 수 있다는 경각심을 남겼다. 아침의 리셋 소식과 오후의 재시도 사고가 같은 날 같은 방에서 이어졌다는 점에서, 이날 하루는 리셋 주기 자체보다 리셋 이후 얼마나 빨리, 얼마나 통제되지 않은 채로 토큰이 소모되는지가 더 큰 관심사였던 것으로 읽힌다.

리셋 시점 자체를 정확히 아는 것과, 리셋된 한도를 어떻게 지키느냐는 서로 다른 문제라는 점도 이날 대화에서 드러났다. 아침에 리셋 소식을 주고받은 참여자들은 대체로 여러 프로젝트를 동시에 돌리는 방식으로 새로 채워진 한도를 빠르게 소비했고, 오후에 사고를 겪은 참여자는 자신이 통제하지 않은 재시도 루프에 한도를 내줬다. 결국 하루 동안 방을 오간 대화는 한도가 채워지는 시점보다, 채워진 뒤 그 한도가 어떤 방식으로 소진되는지를 지켜보는 쪽으로 무게가 옮겨간 셈이다.