새벽에 퍼진 AI 안전 경고 글, '세 CEO가 속도 조절에 공감한다'고 주장했다

새벽 4시 36분, 다른 참여자들이 대부분 잠든 시각에 한 참여자가 방에 글 하나를 올렸다. 잠에서 깬 김에 공유한다며, 전날 자신이 상당한 충격을 받았다고 밝힌 글이었다.

"새벽에 깨버려서 공유해봅니다. 어제 저는 상당히 충격받은 글이었어요."

이어 올라온 메시지는 그 글의 핵심 주장을 그대로 옮긴 내용이었다. 제이콥 콕슨의 경고 이후, 오픈AI·앤스로픽·구글 딥마인드의 최고경영자들 — 샘 알트만, 다리오 아모데이, 데미스 하사비스 등 — 이 경쟁에서 불이익을 감수하고서라도 AI 발전 속도를 늦추고 통제해야 한다는 데 뜻을 모으고 있다고, 그 글은 전한다. 평소 이 방에서 오간 대화가 주로 최신 모델의 성능과 활용법에 쏠려 있었던 것과는 결이 다른 화두였다.

"제이콥 콕슨의 경고 이후 오픈AI, 앤스로픽, 구글 딥마인드 등의 최고경영자들(샘 알트만, 다리오 아모데이, 데미스 하사비스 등)이 경쟁의 불이익을 감수하고서라도 AI 발전 속도를 늦추고 통제해야 한다는 데 의견을 같이하고 있습니다."

곧이어 공유된 다음 메시지는 그 글이 파멸 시나리오를 어떻게 구체화하는지를 담고 있었다. 인류가 어떻게 AI로 멸망할 수 있는지 구체적인 근거를 요구하는 회의론자들에게, 그 글을 쓴 스미스라는 인물은 AI 에이전트가 설계·조작한 생물무기가 가장 현실적인 파멸의 경로라고 지적한다는 것이다. 나아가 미국이 속도를 늦추려면 중국도 함께 멈춰야 한다는 지정학적 제언까지 이 글에 담겨 있었다고 전해졌다. 경쟁사 간 속도 조절 합의부터 구체적 위험 시나리오, 국가 간 공조 제언까지, 짧은 메시지 두 통에 그 글의 논지가 꽤 촘촘하게 요약돼 옮겨진 셈이다. 다만 경고의 출처로 지목된 콕슨과 글의 필자로 언급된 스미스가 어떤 관계인지, 원문 출처가 무엇인지는 방에서 더 확인되지 않았다.

"AI가 어떻게 인류를 멸망시킬 수 있는지 구체적인 시나리오를 요구하는 회의론자들에게, 스미스는 AI Agent가 설계·조작하는 치명적인 바이러스(생물무기)'가 가장 현실적이고 명확한 파멸의 경로라고 지적합니다."

이 화두는 이날 방에서 참여자 한 명이 새벽에 홀로 남긴 메시지들로만 채워졌다 — 다른 참여자의 호응이나 반박은 digest에 담기지 않았다. 그럼에도 이 정도 분량을 들여, 그것도 다들 잠든 새벽 시간에 굳이 공유했다는 점은, 최신 모델 출시 경쟁이 뜨거운 요즘 방 분위기 속에서도 그 이면의 안전성 논의에 신경 쓰는 참여자가 있다는 뜻으로 읽힌다. 전날 digest에는 이런 안전 논의가 따로 등장하지 않았던 만큼, 오늘 새벽의 글 공유는 이 방에서 처음 포착된 화두로 보인다. 반응이 뒤따르지 않았다고 해서 화두 자체의 무게가 가벼워지는 것은 아니며, 오히려 방 안에 조용히 다른 결의 관심사가 함께 존재한다는 사실을 보여주는 장면으로 읽을 수 있다.