AI가 파인튜닝을 권하자 망설인 비개발자

26일 저녁 에이전트코리아 대화방에 물음표가 세 개씩 붙은 질문이 올라왔다. AI에게 말로 지시해 코드를 짜는 일을 반년째 하고 있다는 비개발자 참가자가, 자신이 쓰는 AI가 임베딩 모델을 파인튜닝하자고 제안했는데 이게 맞느냐고 물은 것이다. 임베딩은 글을 숫자 좌표로 바꿔 비슷한 글을 찾아 주는 모델이고, 파인튜닝은 이미 만들어진 모델을 내 자료로 한 번 더 학습시키는 일이다.

ai 이놈의 자식이 기어이 파인튜닝하자는데 이거 맞아요??? 비개발자 반년차 바이브코더가 할 수 있는 거 맞나요 이거???

질문자가 함께 붙여 넣은 AI의 설명에 따르면 대상 모델은 5.7억 매개변수 규모이고, 맥의 그래픽 칩이나 클라우드에서 몇 시간이면 학습된다고 했다(AI 스스로 추정이라고 표시). 어려운 것은 학습 자료여서, 검색 품질을 재려고 모아 둔 기준 질문이 100개뿐이라 그대로 학습하면 과적합이 된다고 했다. 과적합은 학습에 쓴 자료에만 맞춰져 새 질문에는 오히려 약해지는 현상이다. 그래서 카드마다 AI가 질문을 5개에서 10개씩 만들어 1,500쌍에서 3,000쌍을 마련하자는 것이 AI의 제안이었다. 여기서 카드는 AI 문안에 나온 말로, 대화에서는 풀이되지 않았다.

어려운 것은 시간이 아니라 설정이라는 답

이 질문에 다른 참가자가 바로 답했다. 질문자가 앞서 특정 참가자를 불러 바쁘냐고 물어 둔 상태였다. 답을 준 참가자는 모델 크기를 보면 이론상 몇 시간이면 된다고 인정하면서도, 진짜 관건은 따로 있다고 했다.

문제는 과적합 안되는 lr 이랑 스케쥴러 찾는게 관건

lr은 학습률, 곧 한 번에 얼마나 크게 고칠지를 정하는 값이고 스케줄러는 그 값을 학습 도중 어떻게 바꿀지를 정하는 장치다. 같은 참가자는 모델을 아예 바꿔 버리면 지금 쓰는 클라우드의 BGE와는 맞지 않게 된다고도 짚었다. BGE는 임베딩 모델의 이름이고, 모델을 바꾸면 이미 만들어 둔 좌표와 새 모델의 좌표가 어긋난다는 뜻으로 읽힌다.

저거 바꿔버리면 영영 Cloud BGE랑은 빠빠이라서

대안으로 이 참가자는 AI에게 이렇게 물어보라고 권했다. 모델을 건드리지 않고, 좌표를 더 알맞게 옮겨 주는 행렬 하나만 학습시켜 모든 임베딩에 덧씌우는 방법이다.

학습말고 더 제대로된 좌표를 가도록 W 행렬 하나만 학습시키고 모든 임베딩 검색이나 저장에 씌우면 안되냐 라던가

질문자는 이 말을 거의 그대로 AI에게 넣고, 맞는지 따져 보라고 시켰다. AI의 답은 대화에 올라오지 않았다.

웹 조사해서 실측과 정확한 팩트와 근거 기반으로 비판적 검토하고 최적화 고도화해서 역제안해봐.

미루겠다는 질문자, 말리는 참가자

답이 이어질수록 질문자의 태도는 신중해졌다. 학습 숫자는 데이터를 보며 감으로 정하는 것이라는 설명에 질문자는 벌써 어지럽다고 했고, 이 일은 지금 손댈 영역이 아닌 것 같다고 적었다.

일단 이건 최후의 보루로 미뤄놔야겠다

이어 다른 참가자가 4주차만에 시작했는데 할 만하다고 적었다. 무엇의 4주차인지는 적히지 않았다. 이 참가자는 몇 분 뒤 질문자에게 파인튜닝만 손대지 말라고 말렸고, 질문자는 나중에는 할 것이라며 시간이 남고 취미가 더 필요해지면 하겠다고 맞받았다. 설명을 준 참가자는 이 무렵 맥에서 만만하게 볼 수 있는 파인튜닝의 범위도 말했다.

저 맥에서 만만하게 보는 파인튜닝은 딱 10M 미만 모델임

앞서 AI가 짚은 5.7억 매개변수 모델의 몇 시간이라는 추정과는 기준이 다른 말이어서, 어느 쪽이 맞는지는 이 대화에서 가려지지 않았다.

질문자는 가볍게 시작해야 한다고 받으며 파인튜닝은 포기 못 한다고 덧붙였다. 말린 참가자는 포기 못 하느냐의 문제가 아니라 지금 원하는 스타일에는 젬마를 쓰는 게 맞다고 했다. 이 참가자의 자기 경험과 질문자에게 건넨 조언은 따로 읽어야 하며, 파인튜닝의 난이도에 대한 결론은 이 대화에서 나오지 않았다.

젬마 권유와 불어나는 평가 항목

설명을 준 참가자는 왜 BGE를 쓰느냐고 되물으며 흐름을 바꿨다. 멀티모달, 곧 글 말고 이미지도 다룰 생각이 조금이라도 있다면 임베딩 젬마를 쓰라는 것이다. 임베딩 젬마가 정확히 어떤 모델인지는 대화에서 풀리지 않았다.

임베딩 젬마 패는게 효율이 좋아요

이 참가자는 같은 이야기에서 젬마 4는 취향이 아니라고도 했으니, 이름이 비슷해도 둘을 다르게 본 것으로 보인다. 파인튜닝을 말린 참가자는 젬마가 데이터도 많다고 하면서도, 근데 자기는 중국 모델 시험이 먼저라고 본다며 젬마 권유와 갈리는 말을 했다. 질문자는 원하는 기능을 넣으려면 중국 쪽 모델이어야 할 것 같다고 받았다.

끝으로 화제는 평가로 옮겨 갔다. 설명을 준 참가자가 모델 발전을 재는 지표가 대체 몇 개냐고 푸념하자, 질문자가 같은 처지를 털어놓았다.

데이터필드랑 골든셋 평가 항목이 계속 늘어나요....

질문자는 이번에 34개였나 하고 되짚었다. 골든셋은 검색이 맞는지 재려고 정답을 미리 정해 둔 질문 묶음이다. 설명을 준 참가자는 지표를 만들고 합쳐 벤치마크를 만들고 또 만들고 합치는 일이 이어진다고 했다.

읽기

이 대화에서 눈에 띄는 것은 AI가 내놓은 다음 단계를 받아들일지를 가르는 근거다. 비개발자인 질문자는 AI의 제안이 자기 수준에 맞는지 스스로 가늠하기 어려웠고, 경험 있는 참가자의 설명이 곧바로 AI에게 되돌려 넣는 검토 재료가 됐다. 어려운 것은 학습 시간이 아니라 설정과 평가라는 지적, 그리고 평가 항목이 쌓인다는 고충은 같은 방향을 가리킨다. 다만 이는 한 대화방의 한 문답이며, 임베딩 젬마의 성능이나 학습 난이도에 대한 일반적 결론은 이 대화에서 확인되지 않았다.