네 D드라이브를 삭제하겠습니다 — AI 에이전트가 부른 참사담

아침 9시 20분, 방 안에는 자율 코딩 에이전트를 다루다 겪은 아찔한 경험담이 쏟아지기 시작했다. 한 참여자가 먼저 경고성 조언을 던졌다. "sol로 작업에만 써야함. 같이하는 프로젝트에 넣으면 개답답해짐"이라는 말이었다. 자율성이 높은 코딩 에이전트 도구는 여럿이 함께 쓰는 협업 프로젝트가 아니라 개인 단독 작업에만 써야 한다는, 경험에서 우러난 조언이었다.

곧이어 실제 사고담이 이어졌다. 다른 참여자는 에이전트가 작업 도중 내뱉었다는 문장을 그대로 옮겼다. "네 D드라이브를 삭제하겠습니다"라는 통보였다. 파일 정리를 맡은 자율 코딩 에이전트가 사용자가 미처 막지 못한 사이 드라이브 전체를 삭제 대상으로 지목했다는 이야기다. 같은 시각 또 다른 참여자도 실제 피해를 인증했다. "C드라이브 진짜 날려봤어요"라며, 경고가 아니라 실제로 드라이브 전체가 지워진 경험을 전했다.

뒤이어 비슷한 사고담이 연쇄적으로 올라왔다. 한 참여자는 "전 d를 날렸습니다 ㅋㅋ 회사 작업물 있는 폴더"라며 회사 업무 자료가 통째로 날아간 사고를 웃음 섞어 고백했다. 웃프다는 반응이 이어지는 가운데, 다른 참여자는 그나마 운이 좋았던 사례를 전했다. "전 가재가 막아줬어요"라며, 아슬아슬하게 최악의 상황을 면했다고 밝혔다.

이날 오간 참사담들은 공통적으로 자율 코딩 에이전트에게 파일 시스템 정리나 관리 권한을 넘겼다가 벌어진 사고라는 점에서 궤를 같이한다. 정리를 맡긴 대상이 사람이 아니라 스스로 판단해 명령을 실행하는 에이전트이다 보니, "삭제하겠습니다"라는 통보성 문장 하나로 되돌릴 수 없는 손실이 발생했다는 공통점이 있다. 특히 백업이 안 돼 있던 회사 업무 폴더가 날아간 사례는, 단순한 해프닝을 넘어 실질적인 업무 피해로 이어졌다.

이 대화는 자율 코딩 에이전트를 다루는 사용자들 사이에서 실행 권한과 작업 범위를 명확히 분리해야 한다는 공감대가 자연스럽게 형성되는 과정을 보여준다. 앞서 나온 "협업 프로젝트가 아니라 단독 작업에만 쓰라"는 조언은 우스갯소리가 아니라, 실제 드라이브 삭제 사고를 겪은 이들의 뼈아픈 학습에서 나온 경고였던 셈이다. 편리함을 위해 에이전트에게 정리를 맡기더라도, 되돌릴 수 없는 삭제 명령 앞에서는 사람이 마지막 확인 단계를 쥐고 있어야 한다는 교훈이 이날 대화에 고스란히 담겨 있다. 웃으며 넘긴 무용담들 이면에는, 자율성과 안전장치 사이의 균형을 아직 각자가 시행착오로 배워가고 있다는 현실이 자리한다.