AI가 뚝딱 만든 ERP, "보안 구멍" 지적이 쏟아졌다

지난밤 두 커뮤니티는 같은 소재를 놓고 정반대의 표정을 지었다. 한쪽에서는 AI로 순식간에 완성됐다는 한 서비스를 둘러싸고 보안 우려가 실시간으로 제기됐고, 다른 쪽에서는 그 소동을 지켜보며 "그래도 AI로 ERP(전사적 자원관리 시스템)를 실제 업무에 쓸 수 있는가"를 놓고 진지한 토론이 벌어졌다.

발단은 한 개발자가 공들여 만들었다고 소개한 서비스였다. 커뮤니티에서는 이 서비스가 실은 AI로 '딸깍' 만들어진 것 같다는 이야기가 퍼졌고, 개발 과정에서 클로드 페이블(Fable)에게 보안 점검을 맡긴 뒤 "보안이 완벽하다"는 답변을 그대로 홍보 문구로 썼다는 후일담이 돌며 화제가 됐다.

"웃긴건 페이블보고 보안지켜달라고했고 페이블이 보안 완벽하다고하니 이 시스템은 보안적으로 완벽하다고 말하던데 ㅋㅋㅋㅋ"

실시간으로 번진 보안 우려

같은 화제가 다른 커뮤니티로 옮겨가자, 이번엔 회원들이 직접 해당 서비스의 보안 상태를 점검해 봤다며 우려 섞인 반응들을 쏟아냈다. 외부에서 API 키와 고객 데이터에 접근할 수 있었다는 주장이 잇따라 올라왔고, 확인하는 데 걸린 시간이 단 몇 분에 불과했다는 반응까지 나오며 순식간에 화제가 됐다.

"API KEY 5분이면 확보"

"직원들 급여 그럼 다 해킹되는거에요?"

다만 실제로 급여 같은 민감 정보가 유출됐는지는 확인되지 않았고, 대화는 그럴 가능성을 두고 놀라움을 주고받는 수준이었다.

소동 중에는 이름이 같다는 이유만으로 애꿎게 지목된 다른 개발자가 나서서 자신과는 무관한 서비스라고 직접 해명하는 해프닝도 벌어졌다. 오픈카톡 특유의 실시간성과 익명성이 겹치면서 생길 수 있는 소소한 혼선이었다.

같은 밤, 다른 각도의 토론

이 화제가 한창 회자되던 같은 밤, 다른 커뮤니티에서는 정반대 각도의 대화가 오갔다. AI로 ERP를 실제로 만들어 쓸 수 있는지를 두고, 한 참여자는 견적이 8천만 원까지 나왔던 ERP 도입을 클로드 코드로 자체 제작한 실사례를 공유했다.

"저희는 작년에 ERP 견적 8천나온거 내부에서 클코로 만들었는데"

그러나 곧바로 실무 반박이 따라붙었다. 세율 계산이나 회계 정합성 검증처럼 오류가 곧바로 금전적 손실로 이어지는 영역은 여전히 전문 컨설턴트의 검증이 필요하다는 지적이었다.

"최소 월 몸값 몇천만원 컨설턴트 2명 이상 투입에 3개월 이상 프로젝트 기간 잡습니다...."

또 다른 참여자는 시스템을 만드는 것과 실제로 현업 직원들이 그것을 자연스럽게 받아들여 쓰는 것은 전혀 다른 문제라고 짚었다.

"문제는 이걸 쓰는 유저, 즉 직원들이 과연 이걸 잘 쓸까? 필요로 할까? 유기적으로 굴러갈까?"

속도는 빨라졌지만 책임은 줄지 않았다

두 대화를 겹쳐 보면 같은 밤 커뮤니티가 던진 메시지는 분명하다. AI가 며칠 만에 그럴듯한 시스템을 뚝딱 만들어내는 시대가 왔다는 사실과, 그 결과물을 실제 업무에 안전하게 올리려면 여전히 사람의 검증과 전문성이 필요하다는 사실이 동시에 참이라는 것이다.

특히 보안 점검을 AI 모델의 답변 한 줄로 대체하고 그걸 그대로 마케팅 문구로 썼다는 이번 소동은, AI가 내놓은 "완벽하다"는 말을 곧이곧대로 믿어서는 안 된다는 교훈을 커뮤니티 전체에 남겼다. 보안 점검 없이 AI로 서비스를 뚝딱 배포하는 일이 얼마나 위험할 수 있는지를, 만드는 속도는 빨라졌지만 지켜야 할 책임의 무게는 줄지 않았다는 사실을 이 밤의 두 소동이 서로 다른 방식으로 확인해 준 셈이다.

결국 두 커뮤니티가 같은 밤 나눈 대화를 이어 붙이면 하나의 실무 원칙이 드러난다. AI가 만든 결과물의 완성도와, 그 결과물이 실제 서비스로 나갔을 때의 안전성은 전혀 다른 층위의 질문이라는 것이다. 전자는 AI에게 물어도 되지만, 후자는 여전히 사람이 직접 확인해야 하는 몫으로 남아 있다는 게 이날 두 방이 각자의 방식으로 증명한 사실이었다.