국산 로컬 모델 기대와 사무실 PC 사양

어제 저녁 여섯 시 무렵, 공공AX 네트워크에 한 참가자가 포털에 실린 기사 링크를 올리며 한마디를 붙였다.

로컬의 시대로 ㄷㄷ

링크된 포털 기사의 내용은 대화에 옮겨지지 않았고 이 기사도 확인하지 못했다. 로컬은 AI 모델을 외부 서비스가 아니라 자기 컴퓨터에서 직접 돌리는 방식을 가리키는 말로 쓰인다. 십여 분 뒤 다른 참가자가 이렇게 받았다.

대 로컬의시대가 도래했다

국산 로컬 모델의 근황과 후기

이어 한 참가자는 국산 로컬 모델 이야기를 꺼냈다.

한때 엑사원 핫하더니 요새는 뜸하네요 국산 로컬...

엑사원은 대화에서 국산 모델로 거론됐다. 이 말에 다른 참가자가 직접 겪은 인상을 전했다.

엑사원 stt 블라인드 하면 품질 괜찮았어요

stt는 음성을 글로 옮기는 기능을 가리키는 약칭으로 읽히고, 블라인드는 이름을 가리고 비교했다는 뜻으로 읽힌다. 다만 대화에는 무엇과 어떻게 견줬는지가 나오지 않는다. 같은 참가자는 이어서 지금 보안 암호화 수준을 보면 불안하다는 말도 적었는데, 무엇의 암호화를 가리키는지는 드러나지 않는다.

사무실 PC 사양이라는 벽

국산 로컬 이야기를 처음 꺼낸 참가자는 바로 이어 현실을 말했다.

하지만 사무실은 8기가램이라... 일단 하드웨어부터ㅜㅜ

그는 몇 분 뒤 언젠가 각 컴퓨터에 국산 로컬 모델 하나씩은 돌리는 시대가 올지 모르겠다고도 적었다. 사무실 램이 8기가라는 수치는 이 참가자 한 사람이 자기 사무실 기준으로 말한 것이다. 대화에서 로컬 모델이 요구하는 사양이나 그 사무실의 다른 장비가 오가지는 않았다.

밤의 고사양 GPU 농담

두 시간 가까이 지난 밤 여덟 시 무렵, 이 화제와 따로 고사양 장비를 당연시하는 농담이 올라왔다. 직전에 올라온 발화는 이렇게 시작해서 끊겼다.

사실인지는 모르겠지만

그 뒤에 한 참가자가 이렇게 썼다.

집에 RTX6000정도는 있으시죠 하는거 아녀

앞의 끊긴 말과 이 농담이 이어지는지, 무엇에 대한 농담인지는 대화에 드러나지 않는다. 다른 참가자는 십오 분쯤 뒤 이 말을 옛말에 빗댔다.

누구나 집에 금송아지 하나는 있는거 아닌가요?^^의 21세기 버전인가?

또 다른 참가자는 요리 영상에서 누구나 냉장고에 값비싼 식재료가 있다고 말하는 것처럼, AI 사용자라면 누구나 집에 RTX6000이나 DGX SPARK 정도는 하나 있는 셈이라고 했다. 그리고 바로 이어 이렇게 덧붙였다.

(4080 8GB를 돌리며)

이 괄호 속 말은 그 참가자 자신이 8기가 메모리의 그래픽 카드를 돌린다는 농담이다. 사무실 램 8기가를 말한 참가자와는 다른 사람의 다른 장치 이야기다.

읽을 거리

로컬 모델 기대, 국산 모델 후기, 사무실 램 수치, 고사양 GPU 농담이 같은 저녁 한 방에 나왔다는 사실까지가 이 대화에서 확인된다. 램 8기가는 한 참가자의 사무실 사정이고, 엑사원 후기는 한 참가자의 인상이며, GPU 이야기는 농담이다. 이 조각들을 하나의 결론으로 묶을 근거는 대화에 없다.