AI 도구 악성코드 의심과 키 유출·지시 실수

어제 저녁 여섯 시 반을 넘긴 무렵, 공공AX 네트워크에 한 참가자가 경고를 올렸다. 특정 AI 도구를 설치해 쓰는 사람 가운데, 사용 중 모든 브라우저에서 구글 보안 경고를 가장한 화면이 뜨고 가상자산 거래소 로그인으로 인증하라고 요구받는 경우가 있다는 내용이었다. 도구 이름은 대화에 거론됐지만 이 기사는 적지 않는다. 악성코드와의 관련은 대화 안에서 확인되지 않았기 때문이다.

피싱 악성코드에 검염된 것이니 문서파일은 빠르게 외장장치에 백업하시고 컴초기화하시기 바랍니다

글쓴이는 자신도 걸린 것 같아 노트북을 초기화하는 중이라고 했다. 이어 글쓴이 말로는 최근 설치한 것이 이틀 전에 설치한 두 개라서 그것을 의심한다고 적었고, 네트워크도 잘 되지 않아 다른 컴퓨터로 조치 방법을 찾는 중이라고 했다.

설치한 도구에 대한 의심과 대응 조언

방의 반응은 놀라움이 먼저였다. 한 참가자는 겁이 난다며 해당 도구를 지워야겠다고 했고, 다른 참가자는 같은 도구를 쓰다 깃허브 계정 정지 안내를 본 사람이 있다고 말했다. 이 말이 글쓴이의 경우와 같은 원인이라는 근거는 대화에 없다.

또 다른 참가자는 길게 대응 조언을 달았다. 그는 이를 업무 편의를 위해 승인받지 않은 AI 확장 프로그램을 깔았다가 겪는 공급망 공격 유형이라고 짚었다. 확장 프로그램이라는 분류는 글쓴이가 아니라 이 참가자의 표현이다. 그는 감염이 의심되는 컴퓨터에 외장 저장장치를 꽂지 말라고도 했다.

감염 PC에 외장하드/USB 즉각 연결 금지: 이미 악성코드가 상주한 상태에서 외장 스토리지를 꽂으면 백업 파일까지 스크립트 감염이나 랜섬웨어 표적이 되어 전파될 위험이 큽니다.

글쓴이가 실행 파일을 빼고 문서만 백업하는 중이라고 하자, 같은 참가자는 문서만 고르는 판단은 좋지만 문서 속 매크로나 숨김 스크립트가 함께 복제될 수 있다고 했다. 백업한 외장 매체는 바로 다른 업무용 컴퓨터에 꽂지 말고 백신 감시가 켜진 격리 환경에서 전체 검사를 먼저 하라는 조언이었다. 이는 한 참가자의 권고이고 실제 감염 경로가 확인된 것은 아니다.

배포된 도구는 보안성 검토를 건너뛸 수 있나

삼십 분쯤 뒤 다른 참가자가 물었다.

AI실험실 배포된것은 보안성검토없이 사용가능한가요?

AI실험실은 외부나 상급 기관이 도구를 공개·배포하는 곳으로 답변에서 언급된 이름이다. 몇 분 뒤 다른 참가자가 그랬으면 좋겠지만 아니라고 했고, 앞서 공급망 조언을 한 참가자가 더 길게 설명했다.

원칙적으로 보안성 검토 없이 업무망에 바로 도입해 사용하는 것은 불가능(감사 지적 대상)합니다.

그는 외부나 상급 기관에서 공개한 배포물은 시험 목적일 뿐 개별 기관의 보안성 검토를 대신하지 않는다고 했다. 질문한 참가자는 전문기관이 검증한 뒤 자유롭게 쓰는 제도가 생기면 좋겠다고 했고, 기관마다 판단 기준이 다른 것 같다는 걱정을 덧붙였다.

개발자 옵션 문답과 사고담

밤 아홉 시가 넘어 한 참가자가 물었다.

개발자 옵션을 켰다고 왜 페이가 차단되는걸까요?

다른 참가자는 해킹당하기 좋아지기 때문이라고 했고, 은행 앱도 막히지 않느냐고 되물었다. 또 다른 참가자는 개발용 휴대전화를 따로 사라는 뜻 같다고 했다. 이 문답에서 개발자 옵션이 무엇인지 설명한 사람은 이렇게 썼다.

개발자 옵션을 켜면 -> 여러가지 세팅이 가능해지지만 일반 AI 사용자들이 생각할 만한 건 ADB 기능인데 -> 이게 폰을 USB/무선으로 연결하면 폰에다가 CLI 명령을 내리는 것과 같은 방식으로 폰을 조작할 수 있고

ADB는 컴퓨터에서 휴대전화를 명령으로 조작하는 기능으로 대화에 나온다. 같은 참가자는 자동화에도 많이 쓰지만 그만큼 악용하기에도 좋다는 취지로 말했다. 다른 참가자는 보안 사고가 계속 터져서 초보자들은 웹앱을 만들어도 오프라인용으로만 만든다고 했다.

이어 비용 사고 이야기가 나왔다. 한 참가자는 키가 유출되어 200달러 정도 치명상을 입었다고 했고, 같은 참가자가 요즘 해커들이 깃허브를 뒤져서 가장 노리는 것이라고 운을 뗐다. 다른 참가자가 노출된 API 키를 확보하는 것이라고 받으며 올릴 때 주의하라고 했다. 또 다른 참가자는 자신의 경우는 노출이 아니라고 선을 그었다.

노출된게 아니라 바이브 코딩하다가 뭘 잘못 지시해서...

그는 100글자씩 비교해야 하는 것을 만 글자씩 비교하고 있었다고 했다. 곁에서는 토큰이 날아가는 소리가 들린다는 농담이 나왔다. 이 참가자는 몇 분 앞서 수억 나갈 뻔한 것을 겨우 막았다고도 썼지만, 무엇이 나갈 뻔했는지와 이 일이 같은 사건인지는 대화에서 드러나지 않는다.

읽을 거리

의심, 조언, 경험담이 한 방에 겹쳐 올라왔지만 확정된 사실은 얼마 되지 않는다. 악성코드 여부도, 계정 정지의 원인도, 피해 규모도 본인 말 이상으로 확인되지 않았다. 대신 같은 저녁 한 방에서 설치한 도구에 대한 의심, 보안성 검토 절차 문답, 키 유출과 지시 실수 경험담이 따로 올라왔다는 점까지가 확인된다.