그래픽카드는 먼저 산 사람이 승자라는 말, 오후엔 런팟 물량도 없다는 관찰이 나왔다

오후 3시 반쯤 에이전트코리아에 사내 GPU 이야기가 올라왔다. 한 참여자가 회사에서 DGX Spark 여러 대로 dsv4.1을 돌리며 직원들에게 hermes agent와 API 키를 나눠 줬다고 전한 것이다. 돌아온 결과는 기대와 달랐다고 했다.

직원들 쓰라고 hermes agent랑 api키로 보급해도 ㅋㅋ 쓰는사람만 쓰고 잘 안쓰네요

이 주제에는 15명이 81건을 주고받았다. 장비를 갖춘 회사의 고민에서 시작한 대화는 곧 장비를 못 갖춘 쪽의 걱정으로 넘어갔다.

사내에 연산 장비와 에이전트, API 키까지 깔아 줘도 실제로 쓰는 사람은 일부라는 관찰이다. 장비를 들이는 일과 조직이 그 장비를 일상 업무에 쓰는 일은 별개의 문제라는 점을 시사한다. 이 관찰 바로 뒤에 GPU를 못 사서 걱정이라는 말이 이어진 점은 역설적으로 읽힌다.

먼저 산 쪽이 승자라는 말

10여 분 뒤 한 참여자가 GPU를 못 사는 기업은 도태되는 것이냐고 물었다. 다른 참여자는 3년 전에 H100을 허겁지겁 산 기업들이 그나마 승자라고 답했다. 이어 RTX PRO 6000을 2200에 샀는데 지금은 2900이라는 시세 비교가 나왔다.

2200에 산 내가 승자

다만 이 수치는 한 참여자가 자기 구매가와 현재 시세를 견준 개인 관측이다. 시장 전체의 가격 흐름으로 넓혀 읽기는 어렵다. 그래도 방 안에서 장비를 언제 샀느냐가 승패처럼 이야기된 점은 눈에 띈다.

같은 날 오후 이 방에서는 GPU를 둘러싼 이야기가 다른 갈래에서도 나왔다. 한 참여자가 과기부 NIPA의 GPU 지원 연구과제로 만든 180B 규모 자체 모델을 공개했다고 알리며, DGX Spark에서 돌도록 양자화(모델을 가볍게 줄이는 기법)한 판을 다음 날 추가로 내놓겠다고 했다. 연산 자원을 공공 지원으로 얻고, 결과물은 이 방 참여자들이 실제로 쓰는 장비에서 돌도록 맞추려는 움직임으로 보인다.

빌려 쓰는 쪽도 막히나

오후 4시 20분에는 앞서 2200에 샀다고 한 참여자가 런팟에 물량이 없다는 관찰을 올렸다. 사는 쪽의 값 이야기가 빌려 쓰는 쪽의 물량 이야기로 옮겨 간 셈이다. 그는 취미로 런팟을 써 오며 이렇게 없는 건 처음이라고 했다. 다만 한 참여자의 확인이어서, 얼마나 오래 이어지는 상황인지는 대화 안에서 드러나지 않았다.

장비를 사 둔 사람이 빌려 쓰는 쪽 사정까지 살핀 대목이라는 점에서, 사는 것과 빌리는 것을 함께 저울질하는 분위기가 읽힌다. 값이 올랐다는 체감과 물량이 없다는 관찰이 같은 오후에 겹친 것은, 연산 자원을 구하는 길이 좁아졌다는 불안이 방 안에 있는 것으로 보인다.

이 방의 전날 정리와 이날 아침판 정리에는 GPU 값이 따로 다뤄지지 않았다. 저녁 무렵 처음 한 갈래로 묶인 화제로 보인다. 연산 자원을 확보하려는 조바심과, 확보한 장비도 쓰는 사람만 쓴다는 활용의 간극이 한 대화 안에 함께 있었다는 점을 시사한다.