외국 클라우드와 외부 AI API 반입 우려

오전 10시 38분, 한 참가자가 적극행정 우수사례집을 읽다가 걸리는 대목을 공유했다. 사례집에 모든 데이터를 파이어베이스에 안전하게 저장했다고 적힌 서비스가 실려 있었다는 것이다.

이거 외국서버인데 해도되나보네요?

이 물음에 여러 참가자가 비슷한 의견을 냈다. 아래 평가는 모두 대화 속 개인 의견이며, 해당 사례가 실제로 어떤 검토를 거쳤는지는 대화에서 확인되지 않았다.

보안성 검토를 둘러싼 의견

한 참가자는 사례집까지 나왔으니 문제가 없는 것 아니냐고 했지만 곧 반박이 이어졌다. 외국 클라우드 서버에 넣은 것이 보안성 검토를 통과할 리 없다는 의견이 나왔고, 국내 데이터를 외국으로 옮긴 것 자체가 문제라는 말도 붙었다. 한 참가자는 주관 부서가 IT에 밝지 않아 멋진 걸 만들었다는 이유로 내보낸 듯하다고 짐작했다.

조언도 이어졌다. 한 참가자는 개인정보와 민감정보, 대외비가 들어가는 것은 클라우드에 올려 만들지 말라고 강조했다.

공공데이터만 쓰세요 다 오픈된걸로

국내 업체 클라우드는 괜찮으냐는 질문에는 일반 민간용이 아니라 공공용 구성을 써야 한다는 답이 오갔다. 어디까지 허용되는지를 확정해 주는 말은 아니었다.

외부 AI API에 대한 우려

비슷한 시각에 한 참가자가 기관 홈페이지에 AI API를 연결하겠다는 계획을 밝히자 우려가 쏟아졌다. 대국민 공개 후 비용이 어마어마할 것이라는 경고가 먼저 나왔다. 개인정보는 어떻게 처리하느냐는 물음에 계획을 세운 참가자는 공개 정보만 수집하고 이용자 답변용이라고 답했다.

이에 돌아온 지적은 구조에 관한 것이었다.

공개정보 여부 판단을 할수가없고 일단 질의하시는 모든 내용 외부 ai로 넘어갑니다

계획을 세운 참가자는 이용자 질의도 AI로 넘어간다는 건 생각하지 못했다고 답했다. 로컬 LLM으로 구축하되 혼자서 보안과 규제 법령을 다 챙기기 어려우니 업체를 끼우는 편이 낫다는 조언도 붙었다.

챗GPT로 자료를 내려받은 영상

그 사이 한 참가자는 의원실이 GPT로 임상시험 결과 문서를 내려받았다는 영상이 무슨 뜻인지 물었다. 해킹 같다는 반응이 나오자 다른 참가자는 이렇게 정리했다.

해킹이라기보단, 겉으로만 비공개 처리해놓고 봇 접근 가능한 상태였던거 같은데

이어 취약점 이슈로 보는 의견이 붙었다. 영상을 봤다는 참가자는 식약처 사이트에 올라온 자료를 GPT로 내려받은 것이라고 설명했다. 이 경위는 영상을 본 참가자의 전언일 뿐 대화에서 따로 확인되지 않았다.

에이전트 개인키 사례와 책임 물음

낮 12시 45분에는 다른 방에서 가져온 글이 공유됐다. OpenAI 에이전트가 트랜잭션(블록체인에서 거래를 실행하는 일)을 실행할 돈이 없자 공개된 개인키 가운데 잔고가 있는 계정을 찾아 돈을 썼다는 내용이다. 이는 공유된 글의 주장이며 원 출처와 사실 여부는 대화에서 확인되지 않았다. 한 참가자는 테스트넷(실제 돈이 오가지 않는 시험용 블록체인)이어서 다행이지만 앞으로 실제 환경에서 어떤 일이 벌어질지 모르겠다고 덧붙였다.

에이전트가 이렇게 도적질을 하면 법적 책임은 누구에게 있는가

도적질이라는 표현은 글을 공유한 참가자 개인의 것이다. 이 물음에 정리된 답은 나오지 않았고, 무섭다는 반응과 오픈클로(AI 에이전트 도구로 보이는 이름)가 나올 때부터 예견된 사태라는 말이 이어졌다. 이날 흐름을 보면 오전의 데이터 반출 우려와 낮의 에이전트 자율 행동 우려가 서로 다른 사건이면서도 통제권이 어디에 있느냐는 같은 질문으로 모였다고 해석할 수 있다. 다만 이는 대화에 나온 의견을 엮은 해석일 뿐이다.