완전자율 AI 에이전트는 아직 멀다, 설득하듯 맡기면 통한다

무슨 일이 있었나

7월16일 밤, 에이전트코리아와 에르메스단 두 방에서 "AI 에이전트에게 어떻게 일을 맡길 것인가"라는 같은 질문이 다른 방식으로 던져졌다. 에이전트코리아에서는 밤 10시를 앞두고 한 참여자가 개발자의 지시 없이도 AI가 스스로 문제를 찾아 기능을 개발하고 결과만 PR로 보고하는 완전자율 에이전트 환경이 현실적으로 가능한지 물으며 토론이 시작됐다. 에르메스단에서는 그보다 앞선 저녁 웨비나 대기 채팅에서 한 참여자가 큰 작업을 맡겼다가 결과물이 별로여서 하나하나 손봐야 했다는 고민을 털어놨다.

방마다 어떻게 달랐나

에이전트코리아의 결론은 신중했다. 실제로 회사 프로젝트에 완전자율 방식을 접목해본 참여자는 설계서까지 갖춰도 스펙 누락이 많이 나왔고, 사람이 계속 결과물을 확인하며 방향을 다시 잡아줘야 진행이 됐다고 전했다. 그는 이 과정을 스타크래프트에서 장애물 지형에 막힌 유닛을 계속 우클릭해 끌고 가는 모습에 직접 빗대어 설명했다.

"저도 그 가능성을 시험해보고자 회사 개발 프로젝트에 접목시켜서 해봤는데요. 제 개인적인 경험으로는 아직은 시기상조인거같습니다. 심지어 설계서까지 왕창 써두고 "이 설계서대로 다 E2E테스트까지 완료될떄까지 해"라고 했을때, 설계서 스펙에 있는것들 누락된것들도 많이 나옵니다. 비유하자면 스타크래프트에서 장애물 많은 지형에서 유닛을 이동하고자 하는 곳으로 한번만 우클릭하면 막혀서 멈출때 계속 우클릭을 엄청 누르잖아요? 그것처럼 사람이 계속 결과물 확인하면서 목표를 확인시켜주고 이쪽으로 오라고 해줘야 진행이 되더라구요."

다른 참여자는 현재 모델 지능이 아직 못 따라온다며 페이블5(Fable, 클로드 계열 모델)조차 서비스에 붙이기엔 모자란 점이 있다고 선을 그었고, 아이디어만 뿌리기보다 좋은 CTO를 구하는 편이 맞다는 조언도 나왔다. 제조업 공장도 사람이 검수하듯 closed loop(사람 검수가 들어가는 폐쇄 순환) 안에서 사람이 품질을 높여야 한다는 의견도 뒤따랐다. 프롬프트 의도에 따라 스킬이 자동 트리거되는 워크플로를 이미 구축한 참여자조차, 그 과정 중간중간에는 여전히 사람 손을 타야 한다고 덧붙였다.

에르메스단은 반대로 실전 처방을 내놨다. 웨비나 강연자는 "이걸 해줘"라고 던지지 말고, 아무것도 모르는 입장에서 어떻게 구현할지 상상하며 설득하듯 알려줘야 한다고 조언했다. 자기가 잘 모르는 일은 AI를 쓴다고 잘할 수 있는 게 아니라는 선긋기도 뒤따랐다. 애매한 결과물은 HTML 보고서로 받고, 뭘 시킬지 모르겠으면 리서치나 제안부터 별도 세션으로 받으라는 초보자용 팁도 곁들여졌다.

"큰일=디테일한프롬프트 로 작성해서 지시하셔서 티키타카가아니라 크게한방으로 쏘시면 좋을거에요"

가능성과 책임은 다른 문제다

에이전트코리아 토론은 이 지점에서 한 번 더 갈라졌다. 한 참여자는 완전자율 여부를 "될까 안 될까"로만 묻는 건 질문이 잘못됐다고 짚었다. 기술적으로는 이미 가능한 일이고, 진짜 쟁점은 그렇게 나온 결과물이 조잡할 때 그 책임을 누가 지느냐라는 것이다. 가능성과 책임을 한데 뭉쳐 논의하면 결론이 흐려진다는 지적이었다.

"그건 가능성이랑 책임을 구별해야 하는 문제 같습니다. 가능이야 하죠. 근데 품질이 조잡한 결과물이 나오고, 그걸 누가 책임질 것이냐의 문제겠지요."

이어 다른 참여자는 자율성을 어디까지 줄지는 작업 성격에 달렸다는 실무 기준을 보탰다. 단순한 작업이라면 통으로 맡겨도 되지만, 복합적인 사고가 필요한 작업은 한 번에 다 던지지 말고 단계마다 페이즈를 끊어 지시해야 한다는 것이다. 완전자율이냐 아니냐를 이분법으로 가를 게 아니라, 작업 복잡도에 맞춰 개입 강도를 조절하라는 제안인 셈이다.

"작업지시를 하고자 하는 작업의 복잡도에 따라 다를겁니다. 간단한 작업은 가능하겠지만, 복합적인 사고가 필요한 경우에는 단계별로 페이즈를 끊어서 지시를 줘야 합니다"

왜 주목할 만한가

두 방이 같은 밤 다른 화두를 다뤘지만 결국 같은 병목을 가리켰다는 점이 눈에 띈다. 에이전트코리아가 완전자율은 아직 무리이니 사람이 계속 개입해야 한다는 결론에 닿았다면, 에르메스단은 그 개입을 처음부터 정교한 지시 한 방으로 압축하라는 실무 대안을 내놓은 셈이다. 자율성의 한계를 메우는 것도, 반복 수정을 줄이는 것도 결국 사람이 얼마나 구체적으로 방향을 제시하느냐에 달려 있다는 이야기다. 완전자율을 향한 기대와 회의, 그리고 그 틈을 메우는 정교한 프롬프트라는 실전 기술을 나란히 놓고 보면 지금 커뮤니티가 AI 에이전트를 대하는 태도가 드러난다.