REA 역공학의 위험을 둘러싼 허들 논쟁

19일 오후 4시 24분, 에이전트코리아에서 한 참가자가 짧은 질문 하나를 올렸다.

REA가 그만큼 위험한 기술인가요?

전날에도 같은 도구를 두고 비슷한 이야기가 있었지만, 이날 논쟁은 위험의 근거와 제품화, 소프트웨어의 책임, 목소리 복제(TTS)와의 비교로 축이 옮겨 갔다. 이 질문에서 시작된 대화는 오후 5시 무렵까지 이어졌고, 이 토픽 전체에서 18명이 201건의 발화를 남겼다.

논쟁의 중심은 역공학, 곧 완성된 프로그램을 거꾸로 분해해 만든 방식을 알아내는 일을 AI가 쉽게 만든다는 점이었다. 참가자들의 설명을 모으면 REA는 Ghidra나 Hopper 같은 프로그램 분석 도구를 AI 에이전트가 쓸 수 있게 묶은 것으로 이해되지만, 이는 확정된 정의가 아니다. 아래에 나오는 TTS는 글을 음성으로 만드는 음성 합성, LLM은 대규모 언어 모델을 뜻한다. 아래는 쟁점별로 누가 어떤 입장이었는지를 나눠 적은 것이다.

무엇을 묻고 있었나

질문한 참가자는 위험하다는 말의 근거를 되물었다. 나중에 본인은 이 도구가 새로 크게 뜬 이슈인지가 궁금했다고 밝혔다. 먼저 오픈소스가 존재하는 것 자체가 REA와 비슷한 느낌 아니냐고 되물었다. 이어서 지금까지는 어느 정도 품이 드는 수집 단계가 필요했다면 이제는 그 과정조차 필요 없어진 것이냐고 물었고, 비전공자나 비개발자가 취업 때 REA를 활용했다고 하면 문제가 될 수 있겠다는 걱정도 얹었다.

REA의 정체에 대해서는 두 가지 설명이 나왔다. 한 참가자는 Ghidra와 Hopper 같은 리버스 엔지니어링 도구를 에이전트가 쓸 수 있게 엮어 놓은 것으로 이해하면 되느냐고 확인하려 했고, 다른 참가자는 리버싱을 아는 사람들에게 물어보니 이미 공개된 도구들의 조합이라고 하더라고 전했다. 두 번째 사람은 이렇게 덧붙였다.

그런데 그런 툴들이 원래는 알고 써야하는 건데, 지금은 에이전트화되어서 그냥 쓸 수 있게 만들수 있어서 소구점이 강력한듯요

이 설명들은 어디까지나 참가자들의 이해이고, REA의 제작 주체나 공식 정체를 확인해 주는 발화는 없었다.

위험은 기술이 아니라 허들이라는 쪽

같은 시각 다른 참가자들은 기술이 새롭다기보다 문턱이 낮아진 것이 문제라고 말했다. 한 참가자는 기술보다 사람이 위험하다고 했다가, 곧 기반 지식 없이 클릭 한 번(이른바 딸깍)으로 가능해지는 것이 위험이라고 정리했다. 또 다른 참가자는 허들이 낮아진 것이 위험이라고 한 뒤, 원래 하던 사람들은 다 하던 일이라고 덧붙였다. 한 참가자는 위험을 이렇게 비유했다.

네, 7살짜리한테 진짜 총 쥐어주는 격이라..

이어서 한 참가자는 예전에는 혼자 알아서 하는 일이라는 인식을 가진 사람이 더 많았는데 이제는 아니라고 했다. 질문한 참가자는 암묵적인 룰이 파괴되는 것이냐고 되물었고, 법적 마련이 부족한 것 아니냐고 말했다. REA를 막을 방법이 아예 없지는 않느냐는 물음에는 한 참가자가 없다고 단언했다. 반면 다른 참가자는 몇 명 본보기로 고소당하면 조용해지지 않겠느냐는 생각을 내놓았다. 이 대화에서는 법적 근거나 판례가 구체적으로 인용되지 않았으므로, 이 부분은 의견 수준으로만 오갔다.

한 참가자는 클로드에게 자료를 주고 자기에게 접목할 만한 것을 물었더니 분쟁 가능성을 이유로 내 데이터와 내가 만든 프로그램의 보안용으로만 쓰라는 답을 받았다고 전했다. 이는 직접 겪은 한 사례이며, 일반적인 AI의 입장으로 볼 근거는 대화에 없다.

역설계를 제품으로 내놓는 일이 문제라는 쪽

오후 4시 48분 이후에는 시각이 바뀌었다. 한 참가자는 역공학은 할 줄 아는 사람이 꽤 있던 일이고, 누구나 할 수 있는 수준으로 도구가 나온 것이라고 정리했다. 그러면서 문제의 초점을 따로 짚었다.

대놓고 프로덕트화하면 안되죠

같은 참가자는 역설계는 각 기업이 몰래몰래 해오던 일이고, 보고 분석해 자기 것에 반영하는 수준으로는 안 하는 곳이 없지만 그것을 대놓고 하는 것은 완전히 다른 문제라고 했다. 이 의견은 허들 하락론과 겹치면서도 다르다. 허들론은 쉬워진 것을 문제 삼고, 이 입장은 공개적으로 제품화한 행위를 문제 삼는다.

그 사이 완성된 프로그램을 거꾸로 분해하는 일이 무엇인지 비유가 여러 개 오갔다. 한 참가자는 주방에 가서 버거 조리법을 훔쳐보는 것과 같다고 했고, 재료와 조리 도구까지는 알 수 없어 레시피만 확보한 느낌이라고 덧붙였다. 다른 참가자는 다 끓인 라면을 건더기, 면, 국물로 분리한다고 레시피를 알 수 있는 것은 아니라고 했다. 한 참가자는 다른 대화방에서 했던 이야기라며 REA가 뭔가 다 만들어 주는 것은 아니고 유추해서 비슷하게 만들어 주는 정도라고 말했다. 한 참가자는 REA에 CAD 제작을 요청했더니 해 주지 않았다고도 했는데, 이는 한 사람의 경험담이다.

블룸버그 터미널과 책임을 파는 일

오후 4시 53분 한 참가자가 블룸버그 터미널(금융업에서 구독료를 내고 쓴다고 언급된 정보 단말)을 REA로 추정되는 도구가 그냥 만들어 줬다는 이야기를 본 적이 있느냐고 되물으면서 논점이 또 이동했다. 그는 이렇게 말했다.

블룸버그 터미널이 그돈받고 장사할 수 있는건 그 인터페이스 때문에 그런게 아니라

그 뒤 이어진 발화에서 그는 그 이유가 라이선스와 데이터 제공에 있다고 했고, 겉모습을 흉내 낸 것을 만들어 놓고 이것이 대체할 것이라고 말하는 경우를 비판했다. 분위기가 달아오르자 한 참가자는 토론은 좋지만 발언의 수위를 한 번 더 생각하고 너무 격해지지 않게 하자고 중재했다. 다른 참가자들은 같은 논리를 소프트웨어 일반으로 넓혔다. 한 참가자는 이렇게 말했다.

원래 소프트워어는 유지보수도, 책임도 신뢰도 같이파는거죠

여기에 장애가 나면 누가 책임지느냐가 돈을 주고 소프트웨어를 사는 큰 이유라는 말, 책임에는 비용이 들어가고 모두 그렇게 돈을 번다는 말이 이어졌다. 대화에서 REA가 블룸버그 터미널을 실제로 재현했는지는 확인되지 않았다.

목소리 복제가 더 무섭다는 쪽

오후 4시 59분, 한 참가자가 판을 흔들었다.

전 약간 REA보다 TTS같은게 더 무섭슴니다

그는 갤럭시 자동 녹음 파일을 구글 드라이브로 보내 직접 만든 목소리 엔진에 넣으면 15분이면 그 사람 목소리를 복제할 수 있다고 했다. 보이스 피싱에 악용하거나 싫어하는 사람의 아내에게 외도 중이라는 가짜 목소리를 보낼 수도 있고, 이런 엔진을 만드는 일이 점점 쉬워지고 있다고도 했다. 다른 참가자는 영화에서 본 목소리와 얼굴 복제가 멀지 않았다는 느낌이라고 말했다.

세 번째 위험은 또 달랐다. 한 참가자는 다들 경계하는 지점이 다르다고 정리한 뒤, REA나 TTS보다 LLM(대규모 언어 모델)이 내놓는 것이 참이라고 받아들여 인류가 지식의 외삽(이미 아는 범위 밖으로 추론을 넓히는 일)을 포기하는 것이 더 두렵다고 했다. 다른 참가자는 그러면 앞으로 본인 확인은 어떻게 하느냐고 물었고, 이미 얼굴 인증도 사진으로 된다고 하더라는 말이 나왔다. 이후 대화는 AI에게 의식이 있느냐는 이야기로 흘렀다.

갈린 이유

이 논쟁에서 입장이 갈린 것은 REA의 성능이 아니라 위험을 재는 축이 달랐기 때문으로 보인다. 한 축은 누가 쓸 수 있느냐, 즉 문턱이다. 다른 축은 누가 만들어 파느냐, 즉 제품화와 책임이다. 또 다른 축은 눈에 보이는 피해가 어디서 나오느냐이다. 목소리 복제를 꼽은 참가자의 걱정은 소프트웨어의 저작권이 아니라 사람에 대한 사기를 향해 있었다.

질문한 참가자는 나중에 자신이 궁금했던 것은 이것이 새로 크게 뜬 이슈인지 아닌지인 것 같다고 말했다. 이 말은 질문의 초점과 답의 초점이 어긋났을 가능성을 시사한다. 질문자가 확인하려던 것은 화제성이었는데, 답은 위험 평가와 윤리와 책임의 이야기로 돌아왔다. 다만 18명의 대화이고 REA의 정체와 성능, 법적 지위는 대화 안에서 확인되지 않았으므로, 이 논쟁을 REA 자체에 대한 평가로 일반화하기는 어렵다.