몇 달을 학습시켜도 못 넘은 벽, AI 글쓰기가 도착한 곳은 평범함

한 참여자가 몇 달에 걸쳐 진행한 실험 하나를 커뮤니티에 정리해 올렸다. 자기 글 재료를 AI(생성형 AI)에 충분히 주고, 초안과 실제 발행한 글의 차이까지 계속 학습시키면서 자기만의 글투를 따라 쓰게 만들어보는 시도였다. 단순히 "이런 문체로 써줘"라고 한 번 지시하는 수준이 아니라, 자기 글쓰기 재료를 쌓아가며 반복적으로 학습을 보강한 장기 실험이라는 점이 눈에 띄었다.

결과는 기대와 달랐다. 학습을 거듭할수록 자기 스타일에 가까워지는 대신, 오히려 그 반대 방향으로 흘러갔다는 것이다.

"지금 느낌은, 오히려 내 스타일과 취향, 안목이 담긴 글이 아닌 평범해짐에 수렴하는 결과들이 나온다는 생각"

이 참여자는 원인으로 보이는 지점 하나도 함께 짚었다.

"AI가 합성한 지식들(Feat. LLM Wiki)을 많이 읽는것도 경계해야겠단 생각도 들었습니다."

이 발언은 AI 글쓰기 학습이 안고 있는 구조적인 문제를 건드린다. AI가 다수의 글을 종합해 만들어낸 산출물을 다시 학습 재료로 삼으면, 그 결과물은 개별 저자의 특징이 아니라 평균값에 가까워질 수밖에 없다는 것을 시사한다. 다른 참여자도 "그 글쓰기처럼 그런 저런 평균에 수렴하는것들일것같습니다"라며 같은 진단에 동의했다. 자기 안목이 담긴 문장은 편차이자 이탈인데, AI 학습 루프는 그 편차를 오히려 깎아내는 방향으로 작동한다는 해석이 가능하다.

대화는 곧 다른 참여자의 자기 반성으로 이어졌다. 코딩 에이전트 도구가 편리해질수록 오히려 프롬프트 작성에는 소홀해지고, 그 결과 산출물의 퀄리티가 떨어지는 경험을 했다는 고백이었다.

"코딩에이전트툴이 발전함에 따라 이전보다 프롬프트에 소홀했는데, 작업이 편해진만큼 결과물의 퀄리티는 떨어지는 결과를 내고있는걸 발견했어요. 저 스스로도 대충하고있는듯한.."

도구가 좋아질수록 사람이 들이는 정성이 줄어들고, 그 결과 산출물이 평균으로 흘러간다는 점에서 글쓰기와 코딩 두 경험담은 같은 맥락에서 읽힌다.

이 경험담이 무거운 이유는 실험의 방향 자체가 틀리지 않았다는 데 있다. 자기 글 재료를 충분히 주고, 초안과 발행글의 차이까지 반복해서 학습시키는 접근은 상당히 정교한 시도였다. 그런데도 결과가 평범함으로 향했다는 것은, 문제가 학습 방법의 정밀도가 아니라 AI 글쓰기 학습이라는 접근 자체의 한계일 가능성을 시사한다. 개별 저자의 안목은 데이터로 환원되지 않는 이탈과 편차에서 나오는데, AI 모델은 구조적으로 여러 텍스트의 공통분모를 향해 수렴하도록 작동하기 때문이라는 해석이 가능하다.

이 대화는 결국 AI를 글쓰기 도구로 쓰는 사람들에게 근본적인 질문 하나를 남긴다. AI에게 맡길 수 있는 것은 문장을 다듬는 일까지이고, 무엇을 쓸지 판단하는 안목만큼은 사람의 몫으로 남아 있어야 하는 것 아니냐는 질문이다. 코딩 에이전트 사례에서 나온 "저 스스로도 대충하고있는듯한"이라는 자기 고백은, 도구가 좋아질수록 오히려 사람이 자기 판단력을 놓아버리기 쉬워진다는 우려를 같은 자리에서 확인시켜준다.