여러 갈래 AI 작업이 기계와 사람에게 준 부하

25일 저녁 에이전트코리아에서 한 참가자가 이렇게 질문을 올렸다.

맥(18코어)에서 AI세션 Codex CLI 40개 정도를 동시에 돌리고 있습니다.

코덱스 CLI는 터미널에서 쓰는 AI 코딩 도구다. 질문한 참가자는 컴퓨터가 쉬는 시간이 많은데도 부하(load) 수치가 45 ~ 70까지 오른다고 했다. 부하 수치는 처리를 기다리는 작업이 얼마나 쌓였는지를 가늠하는 지표다. 같은 날 저녁 공공AX 네트워크에서는 다른 참가자들이 AI를 쓰면서 동시에 돌아가는 일이 늘어 머리가 지친다는 이야기를 주고받았다. 하나는 기계가, 다른 하나는 사람이 감당하는 부하 이야기다.

이 기사는 두 방의 대화를 방별로 나누어 적고, 맨 끝에서 닮은 점과 근거의 한계를 짚는다. 두 방의 화자는 서로 다른 사람들이고, 한 방의 경험을 다른 방의 경험처럼 이어 읽을 수 없다.

에이전트코리아, 서브에이전트까지 센 것 같다는 40개 세션과 프로세스 폭증

질문의 구체적인 내용은 이랬다. 컴퓨터의 처리 능력은 60% 넘게 놀고 메모리도 80%가 남아 있으며 스왑(메모리가 모자랄 때 디스크를 빌려 쓰는 영역)은 0인데도 부하가 높다는 것이었다. 원인으로 짚은 것은 도구 호출마다 도는 훅 스크립트다. 훅은 도구를 부를 때마다 함께 실행되는 보조 스크립트를 가리킨다.

10초에 새 프로세스가 170개쯤 생기는데, 대부분 도구 호출마다 도는 훅 스크립트(sh와 파이썬)구요

세션을 더 늘려도 느려지지 않게 한 방법이 있느냐는 물음에 답은 여러 갈래로 나왔다. 한 참가자는 자기 방식을 이렇게 밝혔다.

저는 SSH로 pc세개로 분산해서 해결 중입니다

SSH는 다른 컴퓨터에 원격으로 접속하는 방식이다.

같은 참가자는 몇 분 뒤 한 대에서 세션을 늘리기보다 서브에이전트를 쓰는 방식도 따져 보라고 했다. 서브에이전트는 일을 나눠 맡도록 따로 띄운 보조 에이전트로, 이 참가자는 별개의 CLI보다 입출력이나 메모리를 덜 먹는다고 설명했다.

세션 늘리기보다 서브에이전트를 활용하는 방식도 검토해보세요

다른 참가자는 부하 수치가 코어 수의 두 배쯤이면 이미 무리일 가능성이 높다고 짚었고, 노트북은 상시 가동용이 아니라며 추가 기계를 들이라고 권했다.

그냥 추가 머신을 도입하십시요 선생님...

질문한 참가자는 이어서 먼저 부하 상한부터 낮췄다고 알렸고, 그 값을 18로 할지도 되물었다.

일단 아찔해서 부하 상한부터 24로 낮추고 왔습니다만

이어서 서브에이전트에도 훅이 적용되는지 묻자, 앞서 서브에이전트를 권한 참가자가 적용된다고 답했다. 질문한 참가자는 안 된다고 들어서 계속 안 되는 줄 알았다고 적었다.

한 참가자는 이 흐름을 이렇게 정리했다. 질문한 참가자가 아닌 다른 참가자의 말이다.

무조건 적인 병렬 에이전트 갯수 늘리기가 의미가 없다는것을.. 알았습니다

질문한 참가자는 하네스 방향성 자체를 다시 생각해 봐야겠다고 답했다. 여기서 말한 하네스가 정확히 무엇을 가리키는지는 이 대목에서 풀이되지 않았고, 같은 방에서 그날 밤 하네스의 뜻을 두고 답이 갈렸다. 이 참가자는 이어서 40개라는 숫자에 대해, 다른 참가자가 40개 세션이 충격적이라고 하자 서브에이전트까지 포함해 센 것 같다고, 오케스트레이터는 네 개라고 말했다. 오케스트레이터는 대화 속 설명으로는 하위 작업 환경의 워커나 서브에이전트를 부르도록 만든 상위 세션이다. 그로부터 10분쯤 뒤 이 참가자는 대기 중인 프로세스가 180에서 30개로 줄었다고 알렸다. 무엇을 바꿔서 그렇게 됐는지는 이 대목의 대화만으로는 확정되지 않는다.

26일 새벽 1시대에 같은 참가자가 다시 글을 올렸다.

mod가 정답이었습니다

이론상 훅 프로세스 0개가 되네요?

mod가 구체적으로 무엇을 가리키는지, 실제로 프로세스가 0개가 되었는지는 대화에 나오지 않는다. 확인되는 것은 새벽에도 같은 문제를 이어서 만지고 있었다는 점과, 이 참가자가 이론상이라고 단서를 달았다는 점이다.

공공AX 네트워크, 동시에 돌아가는 일의 수

같은 저녁 공공AX 네트워크에서는 부하의 단위가 컴퓨터가 아니라 사람의 머릿속이었다. 한 참가자는 AI 덕에 얻은 것과 치른 것을 한꺼번에 적었다.

예전같음 한달 걸릴 자료조사가 하루만에 되고. 근데 그만큼 집중력을 요구해서 끝나면 탈진할것같아요

같은 참가자는 이어서 동시에 머릿속에서 열 가지 넘는 일이 돌아가니 정신이 없고 예민해진다고 덧붙였다. 잠시 뒤 다른 참가자가 같은 결의 말을 꺼냈다.

AI가 단순 잔업을 해주니까 사람이 감당하는 일의 밀도가 더 높아지는 느낌이에요

또 다른 참가자는 숫자를 대 가며 자기 변화를 설명했다. 이 참가자의 말에서 눈에 띄는 점은 동시에 돌리는 일의 개수가 구체적으로 나왔다는 것이다.

기존엔 멀티를 해도 3 ~ 4개 정도가 끝이었는데

AI 쓰면서는 10 ~ 15개가 돌아가니 중간중간 뇌가 녹는 거 같은 느낌이 들 때가 있더라구요

이 참가자는 대처도 한 줄로 밝혔다.

그래서 요즘은 살살하는중

앞서 밀도를 말한 참가자도 올 상반기에 멀티로 돌리다 금세 지쳐 속도를 조절하는 중이라고 했다. 이 방에서는 농담이 섞여 흘러가기도 했지만, 대처의 방향은 크게 두 가지로 읽힌다. 하나는 일을 줄이거나 속도를 늦추는 것이고, 다른 하나는 일을 나누는 것이다.

일을 나누는 쪽의 말은 여러 참가자에게서 나왔다. 한 참가자는 외부 게시물 링크를 올리며 요즘 뇌가 녹아내리는 것 같은 사람들이 읽어 보라고 한 뒤, 얼마 뒤 이런 줄을 올렸다.

역할 분리: 한 사람이 ‘생성+검증+결정’을 다 하면 반드시 터진다

이 줄이 그 참가자의 생각인지, 앞서 링크한 글에서 옮긴 문구인지는 대화만으로 가려지지 않는다. 그 직후 다른 참가자는 팀 단위의 문화를 꼽았다.

그냥 팀단위로 실행하고 검증하는 문화만 있으면 덜피곤함다

조금 뒤 또 다른 참가자는 AI를 쓰며 명심할 것이라며 한 문장을 남겼다.

모든 일을 내가 할 필요는 없다

두 방을 나란히 놓으면

닮은 점으로 읽을 수 있는 것은 병렬로 돌리는 갈래가 늘수록 어디선가 한계가 먼저 온다는 점이다. 에이전트코리아에서는 그 자리가 컴퓨터였고 부하 수치와 프로세스 개수라는 숫자로 드러났다. 공공AX 네트워크에서는 그 자리가 사람이었고 동시에 도는 일이 3 ~ 4개에서 10 ~ 15개가 됐다는 참가자의 체감으로 드러났다. 이 숫자들은 서로 다른 화자가 서로 다른 대상에 대해 말한 것이라 비교할 수 없다.

처방의 모양에서도 겹침이 보인다. 에이전트코리아에서는 세션을 무작정 늘리기보다 서브에이전트처럼 구조를 바꾸고, 부하 상한을 낮추고, 기계를 나누는 쪽의 말이 나왔다. 공공AX 네트워크에서는 속도를 늦추자는 말, 팀 단위로 실행하고 검증하자는 말, 한 참가자가 올린 역할 분리 문구, 모든 일을 혼자 하지 않는다는 말이 나왔다. 양쪽 모두 동시에 돌리는 개수를 늘리는 것이 곧 해법은 아니라는 쪽으로 기운 것으로 보인다. 다만 이것은 두 방의 발화를 겹쳐 본 읽기이고, 한쪽 대화가 다른 쪽에 영향을 주었다는 증거는 어디에도 없다.

한계도 분명하다. 에이전트코리아의 부하 수치는 질문한 참가자 한 사람이 자기 기계에서 밝힌 값이고, 40개라는 숫자도 처음에는 코덱스 CLI 세션 수로 올라왔다가 나중에 서브에이전트까지 포함한 집계라는 말이 붙었으며, 대처 뒤의 결과는 대기 프로세스가 줄었다는 말과 새벽의 이론상 0개라는 말이 전부다. 공공AX 네트워크의 피로는 몇 사람의 체감이며 측정된 값이 아니다. 두 방이 같은 저녁에 이 화두를 올린 이유를 말하는 발화도 없다. 그래서 이 기사는 병렬 작업의 한계가 어디서 오는지에 대한 결론을 내리지 않고, 같은 저녁에 서로 다른 두 방에서 기계의 부하와 사람의 부하가 따로 올라왔다는 사실까지만 확인한다.