컨텍스트 압축 시점과 새 세션 교체 기준

어제 저녁 에이전트코리아에서 한 참가자가 짧은 질문을 올렸다. 세션 컨텍스트가 어느 정도 찼을 때 다음 세션으로 넘기는 것이 적절하냐는 물음이었다. 컨텍스트는 한 세션이 한꺼번에 붙들고 있는 대화와 작업 내용을 가리킨다(기사 설명). 질문이 올라오고 3분쯤 뒤, 다른 참가자가 연달아 답을 적었다.

저녁에 나온 기준

보통 8 ~ 90때 압축 한번 해주시면 됩니다

여기서 8 ~ 90은 컨텍스트가 80 ~ 90퍼센트쯤 찼을 때를 뜻하는 것으로 읽힌다(기사 설명).

이 참가자는 이어서 다른 작업을 할 때는 clear를 쓰라고 했다. clear가 무엇인지는 대화에서 풀이되지 않았고, 앞뒤 문맥으로 보아 기존 대화를 비우고 새로 시작하는 쪽을 뜻하는 것으로 읽힌다. 질문의 "넘긴다"가 새 세션을 연다는 뜻이라면 하던 작업을 두고 새로 여는 것은 권하지 않는다고도 했다. 압축을 한두 번 한다고 곧바로 둔해지는 것은 아니지만, 며칠 이어 하다 보면 이상해지는 날이 온다는 것이 이 참가자의 경험담이었다.

몇일 이어서 하다보면 분명 이상해지는날이 오거든요

그때는 앞의 세션을 포크하거나 참조로 쓰면서 새로 시작하든, 완전히 새로 시작하든 고르라는 말이 이어졌다. 내용을 문서로 남겨 두고 다른 세션에서 읽어 이어 가거나, 다른 세션에서 이어 갈 것이라고 알린 뒤 프롬프트를 하나 받아 옮겨 가는 방법도 이 참가자가 들었다. 포크는 앞 세션을 갈라 새 줄기를 만든다는 뜻으로 쓴 것으로 보이지만 대화에서 따로 설명되지는 않았다. 이 참가자는 스스로 정리를 한 줄 덧붙였다. 작업을 이어 갈 때는 압축하고, 며칠 또는 여러 번 압축했는데 진전이 애매하면 새 세션, 새 작업이면 새 세션이라는 것이다.

작업 이어서 = 압축 -> 몇일 혹은 여러번 압축 했고 뭔가 진전이 애매할때, 새 세션 새 작업 = 새 세션

같은 참가자는 "케바케"라는 단서도 달았다. 시간이 오래 걸리는 작업을 한두 번 해 보면 자기에게 맞는 방법이 보일 것이라는 말이었다.

다른 참가자 한 명은 기준을 조금 다르게 잡았다. 압축을 해도 둔하다 싶을 때 바꾸라는 것이다.

컴펙션해도 멍청할떄 바꾸셔야됌

같은 참가자는 잠시 뒤 같은 세션에서는 되도록 같은 주제로 대화하는 편이 좋다고도 했다. 또 한 참가자는 요즘 기획용 스킬들을 보면 중요한 사항은 컨텍스트를 외주화해서 저장한다고 했다. 세부 사항별로 나눈 파일이나 깃허브 이슈 같은 것이라는 설명이 붙었다.

거의 주요한 사항은 컨텍스트를 외주화해서 저장하져

자정 무렵의 두 번째 질문

같은 이야기는 자정 무렵 다시 올라왔다. 이번에는 다른 참가자가 Claude를 쓰는 사람들에게 Idle Auto Compaction에 어떻게 대응하느냐고 물었다. 이 기능을 끄는 옵션이 있는데 끌지 말지 고민이라는 것이 질문의 뒷부분이다. 방에서 이 기능이 정확히 어떻게 동작하는지는 풀이되지 않았다. 질문한 참가자는 이 기능을 요즘 자주 보게 된 이유로 캐시 시간을 들었다.

네 캐쉬 타임 때문인데 하다보면 한번에 다 마무리 못하고 몇일 나눠서 하는 경우가 많다보니 요즘들어 종종 보게 되네요

여러 날에 나눠 일하다 보니 요즘 자주 본다는 말이다.

첫 답은 곧바로 나왔다. 컨텍스트를 58퍼센트로 제한하고 세대를 넘기는 방식으로 풀었다는 것이다.

이거 컨텍스트 58% 제한 하고 세대 넘김으로 해결

58퍼센트를 어떻게 제한하는지, 세대 넘김이 구체적으로 어떤 절차인지는 대화에 나오지 않는다. 같은 참가자는 한 세션에서 여러 작업을 동시에 처리하면 자동 압축이 자주 일어나고 맥락 소실이 많아진다고도 했다. 그리고 세션을 새로 시작할 때 시작 컨텍스트를 5퍼센트 이하로 맞추려 한다고 했다. 이 수치는 이 참가자 본인의 운영 목표다.

시작 컨텏트 5% 이하로 맞추려 노력해요

저녁에 컨텍스트 외주화를 말했던 참가자도 자정에 다시 나타나 방식을 밝혔다. 주요 결정은 전부 깃허브 이슈나 외부 문서로 빼 둔다는 것이다. 이 참가자는 압축에서 큰 손실이 있다고는 체감상 느끼지 않는다고도 했다.

컴팩션에서 그렇게 큰 로스는 체감상 안느껴지는 편이긴함요

질문한 쪽의 체감

질문한 참가자 자신의 이야기는 두 갈래였다. 한쪽은 걱정이다. 압축이 들어오며 혼란이 있었다는 말이 이어졌는데, 대화에서는 "아이들 컴팩션"으로 적혀 있지만 앞의 질문에 나온 Idle로 읽힌다.

처음에는 20%에서 발생해서 뭔일인가 했더니 그게 딱 임계점이라 하더라구요

다른 한쪽은 안도다. 예전에는 압축 뒤 결과가 너무 형편없었는데 조금 나아진 기분이 든다고 했고, 위기 상황이 아직 생기지 않은 것이 신기하다고, 문서를 다시 읽히지 않아도 잘 유지된다고도 했다. 다만 이 참가자는 메인 오케스트레이터 역할의 세션에서 이런 일이 자꾸 생기는 점이 불안하다고 털어놓았다. 오케스트레이터는 대화에서 서브 에이전트나 다른 세션에 일을 나눠 주는 상위 세션을 가리키는 말로 쓰였다.

특히나 이게 메인 오케스트레이터인 fable 세션에서 자꾸 일어나니까 많이 불안하긴해요.

fable이 무엇인지는 방에서 풀이되지 않았고 세션 이름으로 쓰인 것으로 보인다. 앞의 20%가 무엇의 20%인지도 대화에서 밝혀지지 않았다.

갈라진 기준

두 대화를 나란히 놓으면 기준이 하나로 모이지 않았음이 보인다. 저녁에는 압축 횟수와 둔해진 정도를 보고 판단하자는 말이 나왔다. 자정에는 컨텍스트 비율을 먼저 묶어 두자는 말이 나왔다. 두 시점 모두 결정과 인계 내용은 세션 밖 문서에 남기자는 말이 있었다. 반면 한 참가자는 압축의 손실이 크지 않다고 느끼고, 다른 참가자는 아직 지켜보며 찜찜해한다. 이 차이는 각자의 작업 방식과 경험에서 나온 것으로 읽히며, 어느 쪽이 맞는지는 대화에서 가려지지 않았다.