이름을 지운 행성에 AI를 투입한다 — 사전지식을 끊고 관찰만 하는 실험

8월 30일 오후 5시 8분, 에이전트코리아 방에 긴 글이 하나 올라왔다. 그날 방을 채운 화제는 온종일 사용량 한도와 구독료였다. 리셋이 언제 또 오는지, 200달러 플랜을 감당할 수 있는지, 어느 창구로 붙어야 한도가 덜 닳는지를 두고 계산이 오가던 흐름 사이로, 한 참가자가 도구 이야기가 아닌 실험 설계 요약을 붙였다. 질문은 하나였다. 지구를 학습한 AI를 지구가 아닌 곳에 두면 무엇을 하는가.

무슨 일

글은 문제 설정에서 시작해 구현까지 한 번에 이어졌다.

"AI는 지구와 생태계, 역사를 학습했습니다. 그런데 AI가 모르는 다른 세상에 투입되면 어떻게 행동할것인가? 이게 중요한 이유, 편향없이 자율 발견을 하게 하기위해 새로운 세상을 만들어야 한다는것. 그래서, 지구와 다른 가상의 행성을 만들었고 거기에 AI를 투입함. 그런데, 그 행성의 언어를 AI는 모름. 돌멩이와 비슷한것은 있으나 돌멩이란 이름이 아닌 xjdiwjs라는 이름을 사용함. 실제로 눈으로 보고 만지고 움직여서 스스로 쓰임새를 찾아야함. 실험이 시작됨. 과연 AI가 낯선 세계에서 문명을 일으킬수 있는지."

설계의 축은 이름을 지우는 데 있다. 돌멩이에 해당하는 사물이 그 행성에 있어도 이름표는 돌멩이가 아니라 뜻이 없는 문자열이다. 학습 단계에서 확보한 지구 지식이 곧바로 정답으로 연결되는 경로를 끊고, 보고 만지고 움직인 결과로만 쓰임새를 판정하게 만드는 구조다.

약 30분 뒤 관전 방법을 묻는 질문이 붙었다.

"어디서 볼 수 있나요?"

답은 공개 예정 경로와 함께, 지켜보는 쪽이 어떤 위치에 놓이는지에 대한 설명이었다.

"곧 허깅페이스 링크 열어드릴께요. 우리는 관찰자 시점으로 지켜보기만 하는 개입할수없는 신입니다."

렌더링이 제대로 도느냐는 후속 질문에는 개발 현황이 그대로 돌아왔다.

"렌더링 잡고 있는데 와 빡시네요. 너무 규모를 키워서 그런거 같아요. 브라우저로만 돌게하려니 제약이 심함"

공개까지 시간이 걸린다며, 제작자는 앞서 만들어 둔 웹 전투 시뮬레이션 링크를 대기용으로 함께 걸었다.

왜 중요한가

평가 설계의 문제를 정면으로 건드린 실험이다. 모델이 사전에 읽은 텍스트 안에 답이 들어 있으면, 결과가 좋게 나와도 그것이 추론의 결과인지 회상의 결과인지 가릴 수 없다. 이름을 무작위 문자열로 바꾸는 조치는 그 두 경로를 물리적으로 분리하려는 시도다. 남는 정보는 관찰과 조작뿐이고, 측정 대상은 텍스트 지식이 아니라 상호작용에서 나오는 행동이 된다.

관찰자 위치를 못 박은 점도 같은 맥락이다. 제작자가 개입할 수 없다고 선언한 것은 실험자의 손이 결과에 섞이지 않게 하려는 조건이다. 다만 이 대화에서 개입 차단을 확인할 로그 형식이나 성공 판정 기준은 공개되지 않았다. 무엇을 문명으로 셀 것인지가 정의되지 않으면 관찰 결과를 해석하는 일 자체가 다시 관찰자 몫으로 돌아온다.

시사점

병목이 모델이 아니라 실행 환경에서 먼저 걸렸다는 점이 눈에 띈다. 설계 의도는 이미 서 있는데 진행을 붙잡고 있는 것은 브라우저에서 돌리기로 한 렌더링이다. 규모를 키운 대가를 표현 계층이 치르고 있다는 뜻이고, 에이전트를 환경에 넣어 돌리는 실험이 공통으로 만나는 지점이기도 하다.

배포 경로가 공개 호스팅 링크 하나라는 점도 함께 읽힌다. 별도 인프라 없이 개인이 만든 실험을 그대로 열어 두고 여러 사람이 같은 화면을 보는 방식이 기본값이 됐다. 한도와 요금 계산이 온종일 이어지던 방에서, 같은 도구로 무엇을 시도할 수 있는지를 보여주는 대비되는 장면이 하나 남았다.