클로드의 지나친 칭찬 고민에서 시작된 커스텀 지침 공유

저녁 일곱 시 반이 조금 지난 시각, 한 참여자가 클로드와 나눈 대화에서 느낀 찜찜함을 방에 꺼내놓았다.

"클로드에게..."완벽해" 라는말 들으면 불안한건 저 뿐인가요"

곧이어 "이 말 하지 말아달라할까..ㅠ"라는 말을 덧붙이며, 스스로도 이 반응이 낯설다는 걸 감추지 않았다. AI가 매번 결과물을 극찬하는 것이 오히려 신뢰를 떨어뜨린다는 취지였다.

같은 참여자는 이어서 자신이 실제로 쓰고 있는 커스텀 지침을 방에 공개했다. "클로드 지침으로 동의·반대는 근거와 함께 제시하고, 비판적 피드백을 회피하지 말 것. 핵심 위주의 간결한 설명. 팩트, 의견, 추정을 반드시 구분하고 의견 및 추정은 명시할 것. 사실·수치·통계를 제시할 때는 출처를 명시할 것. 출처가 학습 지식 기반의 근사치인 경우 그 사실을 밝힐 것. 중요한 수치(시장 데이터, 통계, 최신 정보)는 검색으로 검증 후 제시할 것. 이렇게 넣고있는데"라며 다른 참여자들은 어떻게 쓰는지 궁금하다고 물었다.

이에 다른 참여자가 자신의 방법을 소개했다. "비슷하게 쓰긴하는데 그냥 저는 제가 생각해서 다른관점으로 물어봐보고 해여 "라는 답이었다. 지침 문구를 촘촘히 쌓기보다, 스스로 다른 관점을 만들어 되묻는 방식을 쓴다는 얘기였다. 그러나 이 방법에도 한계는 뚜렷했다. 같은 참여자는 "그럼 100% 너 말이 맞아 나옴"이라며, 결국 클로드가 새 관점에도 동조하는 쪽으로 기운다고 털어놓았다. 뒤이어 "ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 관점을 키워주는건 도메인지식이라 … "라는 말로, 결국 관점의 폭을 넓히는 건 지침이 아니라 사용자 자신의 도메인 지식이라는 결론을 내렸다. 대화는 "역설계나 , 새로운 관점은 진짜 밀어넣어주지 않으면,,, 어쩔 수 없는거 같아여 "라는 말로 마무리됐다.

이 대화가 보여주는 건 단순한 하소연이 아니다. 비판적 피드백을 명시적으로 요구하는 지침을 넣어도, 근본적으로는 사용자가 먼저 다른 관점을 던져주지 않으면 AI가 스스로 반박 논리를 만들어내지 못한다는 실무적 관찰이다. 프롬프트 안에 아무리 정교한 규칙을 넣어도, 결국 비판의 재료는 사용자의 도메인 지식에서 나온다는 인식은 커스텀 지침의 한계를 정확히 짚고 있다.

두 참여자가 주고받은 대화는 결국 같은 지점으로 수렴한다. 지침 문구는 AI가 무엇을 하지 말아야 하는지는 알려줄 수 있어도, 무엇이 더 나은 대안인지는 알려주지 못한다는 것이다. "완벽해"라는 칭찬 한마디에서 시작된 고민이 커스텀 지침 공유를 거쳐 결국 도메인 지식의 중요성으로 끝맺음됐다는 흐름 자체가, 이 방 참여자들이 AI 활용을 단순한 도구 사용을 넘어 사고 구조의 문제로 받아들이고 있다는 방증이기도 하다.