슬랙에 붙인 AI 비서, 스레드가 길어지면
어제 오후 늦게와 저녁 에이전트코리아에서 슬랙에 연결한 AI 비서의 대화 스레드와 컨텍스트가 어떻게 이어지는지 묻고 짐작으로 답한 대화를 정리한 기사.
어제 오후 늦게 에이전트코리아에서 한 참가자가 슬랙에 붙여 쓰는 AI 비서의 대화 스레드가 길어지면 어떻게 되는지 물었다. 질문자 본인은 어떤 AI인지 밝히지 않았고, 클로드 코드라는 말은 뒤에 다른 참가자의 짐작에서 처음 나온다. 궁금한 것은 스레드를 만들 때마다 쌓이는 토큰이 사라지는지였다. (기사 설명: 토큰은 AI가 한 번에 읽고 붙들고 있는 글의 분량을 세는 단위로 쓰이는 말이며, 이 풀이는 대화에 나오지 않는다.)
슬랙에서 대화 스레드 생성할때 스레드마다 토큰이 쌓여서 이것도 소실되는식인가요? 제가 잘 몰라서
질문자는 자기 스레드에 이미 댓글이 많이 쌓였다는 사정도 밝혔다. 이 숫자는 질문자가 직접 적은 것이고, 댓글 수가 컨텍스트에 어떤 영향을 주는지는 대화에서 확인되지 않았다.
예를들면 이거 지금 댓글 168개 쌓여있는데
실제로 고르려던 것은 둘 중 하나였다.
자꾸 길어지면 한번 정리하고 새 스레드 만드는게 나은건지 아니면 그냥 계속 이어서 작업해도 상관없는건지 궁금해요
확인이 아니라 짐작이 이어졌다
이 질문에 나온 답은 대부분 짐작의 어조였다. 한 참가자는 슬랙 쪽에 연결된 모델이 있을 텐데 그 모델 자체가 터미널 기반으로 돌고 자체 컨텍스트를 가지니 슬랙과는 상관없다는 뜻이냐고 되물었다.
slack에 ouath든 api든 프로바이더 모델이 있을건데, 그모델자체가 터미널기반으로 돌아가고 있는데 자체 컨텍스트를 가지고 있으니 슬렉이랑 상관은 없다 이려나
비슷한 방향의 말은 다른 참가자에게서도 나왔다. 이 참가자는 먼저 슬랙을 그냥 보여주는 화면이라고 했고, 질문자도 같은 시각에 터미널로 연결되어 있지 않겠느냐고 짐작했다.
터미널로 연결되어있지않을까용?
화면 이야기를 한 참가자는 이어 클로드 코드의 터미널 컨텍스트는 따로 돌아가는 것 같다고 했다.
클로드코드 터미널 컨텍스트는 따로 돌아간다는 소리 같은뎅
같은 참가자는 잠시 뒤 자동으로 이뤄지는 컨텍스트 관리는 슬랙에 있는 비서가 알아서 한다는 말도 덧붙였다. 이 말에는 추측 어미가 붙지 않았지만 근거도 제시되지 않았다. 두 사람의 말이 닮았을 뿐 서로의 말을 확인해 준 것은 아니다.
또 다른 참가자는 다른 쪽을 짚었다. 세션의 컨텍스트가 넘쳐서 그런 것 아니냐는 것이다.
세션 컨트렉스가 넘처서 그런거 아닌가요? 슬랙은 Compact 안되나..
컴팩트가 무엇을 하는 기능인지는 대화에서 풀이되지 않았다. 대화 맥락으로 볼 때 컨텍스트가 넘칠 때 쓰는 정리 수단을 가리키는 것으로 읽히지만, 슬랙에서 쓸 수 있는지는 확인되지 않았다.
직접 깔아 보겠다는 결말
질문자가 이 문제를 풀려고 고른 방법은 직접 해 보는 것이었다. 월요일 회의를 앞두고 있다며 써 보고 바로 알려 주겠다고 한 질문자는 저녁에 설치를 마쳤다고 적었다. 무엇을 설치했는지는 대화에 적히지 않았다.
믿고 설치완료………(라는 말은 까먹고 설치 전에 백업이고 뭐고 아무것도 안함)
질문자는 tmux가 이미 있었다고 덧붙였다. (기사 설명: tmux는 터미널 화면을 여러 개로 나눠 유지하는 도구로 알려져 있으나, 대화에서 풀이되지는 않았다.) 이어 일단 채널 하나에만 깔았으니 괜찮을 것이라고, 다만 「아마도」라는 단서를 달아 말했다. 처음 물은 컨텍스트 소실에 대한 결과는 이 창에서 보고되지 않았다.
이 대화가 보여 주는 것은 정답이 아니라 질문의 모양이다. 슬랙은 메시지가 보이는 자리이고 클로드가 일하는 자리는 터미널일 수 있다는 짐작이 여러 사람에게서 나란히 나왔다. 다만 모두 짐작이어서, 스레드를 새로 열어야 하는지는 이 대화만으로는 가를 수 없다.