개인 로컬 모델 구축과 구독 병행의 저울질

27일 저녁 6시를 갓 넘긴 더배러 대화방에 한 참가자의 의문이 올라왔다. 대기업도 AI 모델을 구독해서 쓰는 마당에, 개인이 직접 로컬 모델을 세우는 일이 비용과 시간 면에서 생산성이 나올지 모르겠다는 것이다. 로컬 모델은 클라우드 서비스에 접속하는 대신 내 컴퓨터나 서버에 모델을 내려받아 돌리는 방식을 가리킨다. 이 질문 하나에서 약 20분 동안 네 사람의 서로 다른 답이 이어졌다.

대기업도 AI모델 구독하는데 개인이 로컬모델을 구축한다는 건 비용이나 시간측면에서 그렇게 생산성이 나올지는 의문이네요

온프레미스는 줄어든다는 체감

처음 답한 참가자는 흐름이 한 갈래가 아니라 여러 트랙으로 나뉜다고 했다. 이어 순수 온프레미스, 곧 일반적으로 자체 설비에 시스템을 두는 방식의 사례가 줄어드는 추세 같다고 적었다. 이유로는 유지관리가 안 된다고 판단하는 것 같다는 짐작을 붙였다.

순수 온프레미스 사례는 줄어드는 추세같습니다

대화에는 근거로 든 사례나 수치가 없어 인상으로 읽힌다. 질문을 던진 참가자는 이 온프레미스와 유지관리 이야기를 받아 함부로 개인기를 펼치다가는 소각비만 쌓일 것 같다고 했다. 소각비는 성과 없이 돈만 태운다는 뜻의 말로 읽힌다.

일반 용도는 구독, 특수 목적은 로컬

또 다른 참가자는 구도를 용도로 갈랐다. 일반적으로 쓰는 용도라면 구독이 낫고, 특수한 목적일 때 로컬을 구축하는 식이라는 것이다.

일반적으로 쓰는 용도라면 구독이 당근 낫고

이 참가자는 로컬을 구축하더라도 구독을 아예 빼지는 않고 둘 다 쓸 것 같다고 덧붙였다. 특수한 목적이라고 해 봐야 지극히 개인적인 용도일 테고 자기 역시 그렇다고도 했다. 로컬 구축을 이미 했다는 말은 아니었고, 구축한다면 이렇게 쓰겠다는 가정으로 말했다. 이 말 바로 뒤에 앞서 온프레미스 이야기를 했던 참가자가 맞다며 하이브리드 사례가 꽤 보인다고 맞장구를 쳤다. 구독과 로컬을 섞어 쓰는 쪽을 가리킨 말로 읽힌다.

로컬을 갖췄지만 구독은 풀로

세 번째 장면은 실제로 로컬을 구축해 둔 참가자의 발언이다. 앞의 이야기를 받아 자기도 그렇게 쓴다고 하면서, 로컬 구축을 해 놓고도 구독은 풀로 이용한다고 밝혔다.

로컬 구축했지만 구독은 풀로 합니다

사업에 쓰는 것이냐는 다른 참가자의 질문이 올라온 뒤, 이 참가자는 개인적으로 구축해 둔 것과 별개로 고객들에게도 하나씩 구축해 주고 있다고 했다. 이 대목은 본인이 전한 사실로, 구독 대신 로컬로 갈아탔다는 사례가 아니라 둘을 겹쳐 쓰는 사례라는 점이 앞서 나온 의문과 직접 맞닿는다.

커지면 서버를 자체 구축하는 쪽

질문을 던졌던 참가자는 대화 후반에 다른 대안을 내놓았다. 규모가 커진다면 차라리 서버를 자체 구축하는 편이 낫겠다는 것이다. 이어 데이터주권이라는 한 단어를 덧붙였다. 일반적으로 데이터를 어디에 두고 누가 통제하느냐를 가리키는 말이지만, 대화에서 따로 풀이되지는 않았다.

차라리 커지면 서버를 자체구축!!하는게 나을 것같아요

같은 참가자는 코로케이션을 서버만 소유하는 방식이라고 짚으며 순서를 클라우드, 코로케이션, 데이터센터로 정리했다. 코로케이션은 일반적으로 자기 서버를 외부 시설에 맡겨 두는 형태를 이른다. 이 정리가 규모에 따른 단계를 뜻하는지는 대화에 풀이가 없어 확인되지 않는다.

읽을 점

네 참가자가 같은 질문에 낸 답은 결이 서로 달랐다. 한 사람은 업계 흐름에 대한 인상, 한 사람은 용도에 따른 구분, 한 사람은 실제 병행 경험, 한 사람은 규모가 커졌을 때의 자체 서버를 말했다. 공통으로 보이는 것은 구독을 완전히 버리자는 주장이 대화에 한 번도 나오지 않았다는 점이다. 병행을 말한 두 참가자는 구독을 기본으로 두고 로컬을 얹는 쪽이었고, 의문을 낸 참가자는 규모가 커지면 자체 서버를 떠올렸다. 질문이 던진 생산성 문제에 대해서는 정리된 결론이 대화에 없고, 이 방 밖의 사례로 일반화할 근거도 확인되지 않는다.