연구 자료를 AI에 맡길 때의 보안과 사람 병목

토요일 저녁 6시 44분, 에이전트코리아 방에서 AI가 작업을 넘기며 써 주는 인계서를 보지 않느냐는 질문이 나왔다. 한 참여자는 안 본다고 답했고, 곧이어 나온 말이 이 주제의 출발점이 됐다.

인간이 병목인 상태인거임

AI가 쓴 인계서를 사람이 일일이 확인하는 한 속도는 사람에게 묶인다는 뜻으로 읽힌다. 이어 훅(특정 폴더에 쓰지 못하게 막는 것 같은 자동 규칙) 제거 같은 조치가 화제에 올랐고, 같은 참여자는 보안 문제라면 훅보다 네트워크 단위나 가상머신에서 막는 편이 낫다는 의견을 냈다.

가상머신까지 갈 필요가 있느냐

다른 참여자는 결이 달랐다. 저녁 6시 49분에는 "vm까지 안 가도 워크스페이스만 철저하게 분리해 놓으셔도 웬만한 보안 조치는 다 OK 된다고 보시면 될 걸요?"라는 말이 올라왔다.

같은 이야기를 한쪽은 막는 층을 아래로 내리자고, 다른 쪽은 작업 공간을 나누는 것으로 충분하다고 풀었다. 두 의견 모두 AI의 행동을 하나하나 점검하는 대신 환경의 경계를 먼저 긋자는 점에서는 닿아 있는 것으로 보인다. 어느 쪽이 더 안전한지는 이 대화에서 가려지지 않았고, 구체적인 설정 방법도 오가지 않았다.

6시 50분 질문한 참여자는 자신이 다루는 자료 중 비공개 자료가 꽤 많다고 밝혔고, 그런 자료는 애초에 AI에게 주지 않으려고 따로 기기를 마련했다고 말했다. 보안 조치를 고르는 일과는 별개로 자료 자체를 AI에 주지 않으려는 선택으로 읽힌다.

락은 위에서, 확인은 마지막에

저녁 7시 2분 또 다른 참여자가 절충안을 내놓았다.

그러면 상위에서 확실히 락을 걸어두고 자율에 맞기되, 정말 민감데이터는 최종 아웃전에 한번 체크하는 형태로 타협보면 될것같네요.

여기서 락은 AI가 닿을 수 있는 범위를 위에서 막아 두는 장치로 읽힌다. 그 안에서는 AI에게 맡기고 사람은 밖으로 나가기 직전의 민감 데이터만 본다는 구상이다. 인계서를 전부 읽는 방식과 아예 안 읽는 방식 사이에서 사람의 확인 지점을 줄여 보자는 제안이다.

대화는 밤 11시 25분 한 번 더 이어졌다. 질문한 참여자가 자신의 원칙인 승인자는 본인, 승격은 사람이 확인한다는 부분(무엇을 승격하는지는 대화에서 밝혀지지 않았다)이 진짜 걸림돌이라고 털어놓았고, 처음 인계서를 안 본다고 했던 참여자는 그 방식이 코딩에서 사람 손을 줄이는 것과 반대 지점이라고 짚었다.

정리하면

이 대화에서 두 참여자가 병목을 AI의 속도가 아니라 사람의 확인으로 짚었다. 인계서를 안 본다고 한 참여자는 자기 방식이 개발하는 사람들에게나 맞을 수 있고 질문한 참여자의 상황에서는 다를 수 있다고 단서를 달았고, 질문한 참여자는 자신의 원칙이 걸림돌이라고 털어놓았다. 나머지 의견은 확인 지점을 어디로 옮길지를 두고 갈렸다. 비공개 자료를 다루는 한 참여자의 사례에서는 맡기는 범위를 먼저 정하는 일이 쟁점으로 보인다. 다만 어떤 조치가 실제로 충분했는지는 대화로 확인되지 않는다.