같은 밤 10시대, 두 방이 아스트라와 솔의 층을 따로 쌓았다 — 아스트라를 지휘자로 앉히면 비용 3.2배라는 실측까지

24일 밤 10시 17분, 에르메스단에 긴 한 줄이 올라왔다. 여기서 아스트라와 6 솔은 오픈AI GPT-6 계열의 상위 모델 아스트라·하위 모델 솔을 가리킨다. 5.6 솔은 좋았지만 비용이 너무 많이 들었으니, 어려운 일은 아스트라로 올리고 쉬운 일은 6 솔로 내린다는 난이도별 배분 제안이었다.

5.6 Sol이 좋았지만 비용이 너무 많이 들었고 어려운건 Astra로 올리면 턴을 덜돌아서 비용 절감, 쉬운선 6 Sol로 내려서 비용절감

12분 뒤 에이전트코리아에서는 모델을 층층이 쌓는 리드 배치 이야기가 시작됐다. 한 참여자가 클로드 계열 페이블을 맨 위 헤드로, 그 아래 오퍼스 헤드, 맨 아래 코덱스 워커를 두는 구성을 소개했다. 두 방은 같은 시간대에 같은 질문을 붙들고 있었다. 어떤 모델에 어떤 역할과 일을 맡겨야 돈이 덜 새느냐는 질문이다.

에르메스단, 솔 평가가 흔들린 자리에 조합이 들어섰다

어제 저녁판에서 GPT-6 솔은 가성비로 불렸다. 밤사이 그 평가가 흔들렸다. 9시 55분 한 참여자는 6 솔이 욕을 엄청 먹고 있다며, 레딧에서는 5.6 솔이 6 솔보다 낫다는 평이 돈다고 전했다. 앞서 7시 55분에는 모델 목록에 솔이 보이지 않는다던 문의가 ocx(모델을 등록·선택하는 앱·CLI 도구) 업데이트 뒤 떴다는 전언으로 풀렸다.

평가가 갈리자 방의 관심은 어느 솔이 낫느냐에서 어떻게 나눠 쓰느냐로 옮겨 갔다. 10시 19분에는 리드 모델에 아스트라를 넣고 6 솔이나 오푸스 5.5로 작업하게 하면 품질과 비용이 모두 좋다는 권유가 나왔다. 10시 40분에는 아스트라 대신 6 솔을 쓰라는 참여자가 아스트라로 한도를 녹이다 19%가 남은 상태에서 반나절 동안 세션 4개를 돌렸다는 경험을 옮겼다. 데브데이를 앞두고 6.5 같은 숨겨 둔 모델이 나올지 기대하는 말도 오갔다.

에이전트코리아, 아스트라를 지휘자에 앉히면 3.2배

에이전트코리아의 대화는 수치로 나아갔다. 한 참여자가 한나절 장기 테스트 결과를 꺼냈다. 아스트라를 오케스트레이터로 쓰는 것만으로 평균 비용이 크게 뛰었다는 것이다.

작업위임률이 83%일때 평균비용이 3.2배가나왔어요

그는 아스트라를 워커로 쓰지 말라고 했고, 자신에게 가장 나았던 건 sol xhigh와 sol high 조합(xhigh·high는 추론 강도 설정), 오퍼스 쪽은 5.5 high 단독이었다고 전했다. 검수와 에스컬레이션에만 클로드 계열 모델인 페이블 5.1(fable 5.1)을 썼다고 한다.

이어 모델 라우터를 만들 때 캐시 히트를 고려하지 않으면 토큰이 녹는다는 지적이 붙었다. 처음 구성을 소개한 참여자는 헤드마다 컨텍스트를 나눠 두고 메인은 문제가 생길 때만 전체를 읽게 해 놨다고 답했다. 두 사람 모두 무한 팬아웃으로 주간 한도를 몇 시간 만에 날려 본 경험이 있다고 털어놨다. 6명이 81건을 주고받은 문답이었다.

같은 질문, 엇갈린 답

두 방이 같은 밤 모델 층 쌓기를 따로 꺼낸 데에는 공통 배경이 보인다. 솔과 아스트라, 오푸스 5.5가 한꺼번에 선택지에 올라 있고, 어제 저녁판에서 다룬 설계는 오푸스·실행은 솔이라는 분업 이후에도 한도를 아끼는 방법이 계속 관심사였다. 이날 새로 붙은 쟁점은 아스트라에 어떤 난이도의 일과 역할을 맡길 것인가다.

에르메스단 안에서도 아스트라를 리드로 두자는 권유와 6 솔로 대신하자는 말이 갈렸다. 10시 17분 제안은 어려운 일을 아스트라에, 쉬운 일을 6 솔에 맡기는 난이도별 배분이고, 10시 19분 권유는 아스트라를 리드로 두고 솔이나 오푸스 5.5에 작업을 맡기는 배치였다. 에이전트코리아에서는 아스트라를 지휘자로 쓰면 비용이 3.2배로 나왔다며 솔끼리 묶은 조합을 택한 실측이 나왔다. 난이도별 배분에서 비용이 줄었다는 전언을 리드 배치에서 비용이 늘었다는 전언과 같은 조건의 비교로 보기는 어려워 보인다.

이 엇갈림은 모델 자체보다 위임률과 캐시 설계가 비용을 가를 수 있음을 시사한다. 다만 3.2배와 19%는 모두 각자 환경에서 나온 개인 실측과 체감이다. 무엇을 얼마나 위임했는지, 캐시를 어떻게 다뤘는지가 달라 한 방의 결론을 다른 방 환경에 그대로 옮기기는 어려워 보인다.