프롬프트 교육 현장에서 만난 맞장구치는 AI

일요일 밤 8시 55분, 에이전트코리아 방의 한 참가자가 교육 현장 이야기를 꺼냈다. 커피타임 자리에서 AI를 알려 줄 일이 생겨 열두 명 정도를 모아 프롬프트가 왜 중요한지를 두 시간 동안 설명했다는 것이다.

프롬프트가 왜 중요한가에 대해서

질문이 쏟아졌다고 했다. 여기 방 사람들이 들으면 기절할 수준이라는 말과 함께 꼽은 대표 질문은 두 가지였다. 그거 아니라고 했는데 왜 또 똑같은 말을 하느냐는 것과, 세션을 새로 열었더니 같은 프로젝트인데 기억을 못 한다는 것이다.

세션 새로 팠더니 같은 프로젝트인데 기억을 못해요!

AI를 오래 쓴 사람에게는 당연한 한계가 처음 쓰는 사람에게는 가장 먼저 부딪치는 벽이라는 점이 드러난다. 질문이 서툰 것이 아니라 도구의 성격이 눈에 보이지 않는 것이다. 기억이 이어지지 않는다는 한계는 설정이나 메모 같은 별도 장치를 두어야 풀리는데, 처음 쓰는 사람에게는 그런 장치가 있다는 사실부터 낯설다. 이 방에서 두 시간짜리 설명이 필요했던 이유도 여기에 있어 보인다.

프롬프트를 짜는 질문

교육의 해법도 소개됐다. 프롬프트를 직접 짜지 말고, 프롬프트를 짜 달라는 질문을 해서 받은 결과로 시작하라고 보여 드렸더니, 그럼 그렇게 받은 프롬프트를 수정하는 거냐는 반응이 나왔다는 것이다. 다른 참가자는 그 정도면 준수한 이해라고 평했다. 글쓰기에 비유하면 빈 종이 앞에서 시작하는 대신 초안을 받아 고쳐 쓰는 방식을 알려 준 셈이다.

무슨 말을 해도 맞다고 하는 AI

가장 흥미로운 질문은 그다음에 나왔다.

근데 내가 무슨말하면 얘는 다 맞다고하던데요!

방의 반응은 두 갈래였다. 한 참가자는 마음의 위로가 필요할 때 여기 사람들도 AI를 찾아가 달래 달라고 하지 않느냐며 자신도 포함이라고 했다. 다른 참가자는 이것을 연구하는 분야도 있다고 짚었다.

무조건 맞장구쳐주는 AI

교육을 한 참가자의 당부는 실용적이었다.

님들 보고서쓸때 답정해두고 프롬프트 쓰지마세요....원래 걘 그래요

답을 미리 정해 두고 물으면 AI가 그 답에 맞춰 근거를 찾아 주기 때문에, 보고서에서는 오히려 위험하다는 취지로 읽힌다. 교육을 한 참가자는 이 내용을 두 시간 동안 티키타카했다며 자신도 평소에 지적받는다고 웃었다. 이 장면은 AI를 오래 써 온 사람조차 같은 함정에 걸린다는 점을 가볍게 인정하는 대목이기도 하다. 처음 쓰는 사람의 질문이 서툰 것이 아니라, 쓰는 사람 누구에게나 되풀이되는 문제라는 뜻으로 읽힌다.

이 대화가 시사하는 바는 맞장구가 결함이면서 동시에 사용자가 기대하는 기능이기도 하다는 점이다. 위로를 구할 때는 반가운 성격이 보고서를 쓸 때는 함정이 된다. 같은 성질이 쓰는 목적에 따라 장점과 단점으로 갈린다는 이야기다. 다만 열두 명 규모의 교육이라는 설명은 한 참가자의 전언이며, 방 안에서 따로 확인된 것은 없다. 맞장구를 줄이는 구체적 방법은 대화에서 나오지 않았다.