DGX 스파크 두 대가 '스윗스팟', 로컬 딥시크 체감 TPS는 40~70

저녁 시간대, 에르메스단 채팅방은 DGX 스파크 가격이 크게 오른 것에 대한 한탄으로 문을 열었다. 한 참여자는 가격이 더 뛰기 전에 사지 못한 것을 두고두고 후회한다는 글을 남겼다.

"600때 asus구매 안한걸 땅을 치고 후회 하고 있습니다....ㅠ"

곧이어 실제로 스파크를 두 대 굴리고 있는 참여자가 등판해 체감을 전했다. 두 대를 함께 쓰는 조합이 이른바 '스윗스팟'이라는 평가였다. 다만 그 뒤에는 로컬 LLM 구동만을 목적으로 사는 건 무모하다는 냉정한 단서가 곧바로 따라붙었다.

"두대가 스윗스팟이긴 합니다. 꽤 쓸만해요. 근데 로컬 llm 돌리겠다고 사는건 미친짓이고요"

구체적인 체감 수치도 이어졌다. 정식 벤치마크를 돌린 건 아니라는 전제를 붙였지만, 두 대를 물리면 원본 모델이 통째로 올라가고 초당 토큰 처리량(TPS)은 40에서 70 정도로 보인다는 설명이었다.

"스파크 두대면 원본 올라갑니다. tps 는 대충 벤치마크 돌린건 아닌데 보이는건 40 ~ 70정도 나오는거 같은데요"

두 대를 갖추게 된 사연도 뒤따랐다. 회사 복지포인트를 쓰지 않고 모아뒀다가 스파크 한 대를 살 수 있는 금액이 되자 먼저 구매했고, 막상 한 대만 두니 아쉬운 마음이 커서 곧바로 사비를 들여 한 대를 더 마련했다는 것이다.

"회사 복지포인트를 안쓰고 모아뒀더니 스파크 한대 살 수 있는 가격이 되었길래 스파크를 샀고, 사고나니 한대만 있으면 굉장히 아쉽길래 제 돈으로 한대 더 샀습니다. ㅎㅎ"

가격 폭등에 대한 한탄 속에서도 실제로 두 대를 구성해 딥시크(중국 딥시크가 공개한 오픈소스 AI 모델)를 돌리는 사용기가 곧바로 이어졌다는 점은, 이 방 일부 참여자들 사이에서 로컬 인프라 투자가 여전히 실행으로 옮겨지고 있음을 보여준다. 다만 "로컬 llm 돌리겠다고 사는건 미친짓"이라는 평가가 같은 발화 안에 함께 담겼다는 사실은, 두 대 스윗스팟 조합조차 순수한 비용 대비 효율만으로는 정당화하기 어렵다는 인식이 이 방 안에 공존하고 있다는 것을 시사한다.

이 대화에는 참여자 열 명이 붙어 메시지 48개를 주고받았다. 짧은 하드웨어 잡담치고는 적지 않은 규모인데, 이는 "600때 못 산 걸 후회한다"는 첫 발화와 "제 돈으로 한 대 더 샀다"는 뒤이은 실사용기 사이의 온도차가 그만큼 컸다는 뜻으로도 읽힌다. 가격이 오르기 전에 올라타지 못해 아쉬워하는 쪽과, 이미 두 대를 갖추고 실사용 수치까지 공유하는 쪽이 같은 대화 안에 나란히 있었던 셈이다.

TPS 40 ~ 70이라는 수치는 어디까지나 정식 벤치마크가 아닌 체감치라는 점을 발화자 스스로 밝혔기 때문에, 다른 사용자가 재현했을 때 같은 값이 나온다는 보장은 없다. 그럼에도 복지포인트에 사비까지 더해가며 두 대 구성을 완성한 사례가 구체적으로 공유됐다는 점 자체가, 가격 인상에 대한 아쉬움과는 별개로 로컬 구동 실험이 이 방에서 계속 이어지고 있다는 근거로 읽힌다. 정식 성능표 대신 이런 실사용 체감기가 먼저 오간다는 것은, 이 방에서 로컬 인프라를 판단하는 기준이 아직 스펙 시트보다 서로의 경험담에 더 가깝다는 것을 방증한다.