200억 토큰을 태워도 안 바뀐다 — '사람이 병목'이라는 자조
아침 8시 28분, 더배러의 한 참여자가 트위터에서 발견한 '램블(Ramble) 세션' 개념을 공유하며 하루 종일 이어질 논쟁의 물꼬를 텄다. AI에게 일을 맡기기 전 30 ~ 40분 동안 두서없이 생각을 쏟아내며 자신이 "왜" 이 일을 하고 싶은지를 주입하는 준비 작업이라는 설명이었다.
참여자 08:28 "30-40분 동안 내가 어떤 것을 "왜" 하고싶은지 주입을 시키는데 시간을 많이 쓴다는 것인데요."
40분 뒤 다른 참여자는 이 개념이 사실 카파시가 예전에 한 이야기 — 주저리주저리 말하면 AI가 사용자를 잘 파악해 다루기 쉬워진다는 취지 — 를 사람들이 곱씹지 않고 그대로 받아 유행처럼 따라 하거나, 유튜브 조회수를 노리는 소재로 쓰일 수 있다고 짚었다. 아직 정식으로 자리 잡지도 않은 개념이 벌써 유행어가 될 조짐을 보인다는 우려였다.
참여자 09:06 "주저리주저리 하면 AI 가 나를 잘 알게 되어서 다루기 쉬워진다고 카파시가 이야기한 것을 사람들이 무지성으로 따라하고 유튜브 띄우기 위해서 사용하게 될지도 모르는 아직 탄생하지 않은 개념입니다."
곧이어 논쟁은 방법론에서 실체로 옮겨갔다. 한 참여자는 사람들이 정말 모든 사용 한도를 다 태울 만큼 일이 많은 건지, 아니면 굳이 하지 않아도 될 일을 만들어서 하고 있는 건 아닌지 되물었다. 다른 참여자는 토큰을 써서 작업이 안정화되고 나면 남은 여유분으로 또 새 일을 벌이는 순환이 반복된다고 짚었고, 처음 참여자는 루프·그래프 엔지니어링을 다룬 영상을 공유하며 결국 필요한 건 일 자체를 늘리는 사람, 즉 'CEO 브레인 엔지니어링'이 아니냐고 농담을 던졌다.
참여자 09:25 "그렇게나 모든 한도를 불태울 정도로 일이 많으신건가요..?"
저녁이 되자 아침의 방법론 논쟁은 구체적인 하소연으로 되돌아왔다. 한 참여자가 지난주와 이번 주를 합쳐 200억 토큰을 태웠는데도 바뀐 게 없다고 토로하자, 다른 참여자는 "사람이 병목"이라며 맞장구쳤다. 준비 단계를 정교하게 다듬든, 사용 한도를 있는 대로 소진하든, 그 산출물을 판단하고 다음 결정을 내리는 사람의 처리 속도가 따라오지 못하면 토큰 소비량 자체는 성과와 직결되지 않는다는 점을 이날 하루의 대화가 스스로 드러낸 셈이다.
참여자 16:16 "저 저번 주 이번주 합쳐서 200억 토큰 태웠는데" 참여자 16:22 "사람이 병목 흑흑.."
아침의 '램블 세션'이 AI에게 의도를 더 잘 전달하는 준비법으로 제시됐다면, 저녁의 200억 토큰 하소연은 그 준비와 무관하게 사람이 여전히 결정의 최종 병목이라는 사실을 재확인시켰다. 하루 동안 오간 이야기를 겹쳐 보면, 토큰을 더 많이 태우는 것과 실제로 일이 진척되는 것 사이의 간극을 메우는 열쇠는 결국 AI를 다루는 방법이 아니라 그 결과를 소화하는 사람의 속도에 있다는 인식이 방 안에 자리 잡고 있었다.