aside(어사이드)에 올라마(Ollama) 로컬 모델을 붙였더니 응답이 없다, 한 방은 되묻는 데서 멈췄고 다른 방에서는 컨텍스트 길이를 늘리라는 답이 나왔다
aside 에 올라마 로컬 모델을 붙일 때 응답이 없다는 같은 질문에, 한 방은 연결 방식을 되묻는 데서 멈췄고 다른 방에서는 컨텍스트 길이를 늘리라는 답이 나온 기록
금요일 밤 10시 가까운 무렵, 에이전트코리아와 공공AX 네트워크에 거의 같은 질문이 올라왔다. aside(어사이드)라는 앱에서 올라마(Ollama, 내 컴퓨터에서 AI 모델을 돌리는 프로그램)로 돌리는 로컬 모델에 명령을 내리면 응답이 없다는 것이다. 두 방에 비슷한 시각에 올라온 이 문장은 앞부분이 같았다.
혹시 aside에서 올라마 로컬로 명령내리면 응답이 없는데
질문은 한 줄뿐이었고, 두 방의 대화는 이 한 줄에서 갈라졌다. 한 방은 되묻는 데서 멈췄고, 다른 방에서는 컨텍스트 길이, 곧 모델이 한 번에 받는 분량을 늘리라는 답이 나왔다.
에이전트코리아, 연결 방식을 되묻다
에이전트코리아에서는 로컬 모델로 써 본 사람이 있는지 묻는 말이 먼저 나왔다. 출발점은 유료 계정이 없는 사람에게 로컬로 쓰는 법을 알려 주려던 일이었다. 다른 참가자는 올라마에 MCP 를 연결한 것인지 되물었고, 올라마로 돌린 모델을 aside 에서 골라 호출했는데 답이 없는 것인지도 확인했다.
이어 또 다른 참가자가 반대로 aside 스킬을 로컬 모델에 쥐여 주는 방식은 써 봤느냐고 물었다. 이 방의 해당 대화는 질문 셋과 제안 하나로 밤 10시 6분에 끝나며, 대화에서는 원인이 확인되지 않았다. 이 방의 의심은 모델이 어떻게 붙어 있느냐, 곧 연결 경로와 등록 방식에 머물렀다.
공공AX, 숫자로 내려간 답
공공AX 에서는 질문 뒤에 대화가 잠시 aside 활용기로 옮겨 갔다. 한 참가자는 aside 에 메일함 정리 규칙을 주면 첨부파일까지 열어 보고 지울 것을 물어본 뒤 정리해 준다고 전했다. 로컬 모델 이야기로 돌아온 것은 밤 10시 56분이다. 컨텍스트를 32k 로 올리니 응답은 오는데 매우 느리다는 말이 나왔고, 13분 뒤 이런 답이 달렸다.
gemma4 e4b 로 aside에 ollama를 연결해서 쓰시려면 ollama 옵션에서 context length를 128k 로 설정하신 후에, aside 설정에서 ollama를 등록하셔야 해요
답한 참가자는 순서를 못 박았다. 올라마 쪽에서 컨텍스트 길이를 128k 로 먼저 잡고, 그다음 aside 에 올라마를 다시 등록하라는 것이다. 곧이어 32k 로는 어렵다고 덧붙였는데, 이유는 aside 에서 기본 채팅 한 번에 10k 이상의 컨텍스트가 차기 때문이라고 했다. 이 수치와 gemma4 e4b 라는 기준은 그 참가자의 설명이며, 128k 로 바꾼 뒤 실제로 풀렸다는 확인은 대화에 나오지 않는다.
같은 증상, 다른 층위의 의심
두 방을 나란히 놓으면 같은 증상을 두고 의심한 층위가 다르다. 에이전트코리아는 연결과 등록, 곧 모델이 aside 에 어떻게 붙었는가를 물었고, 공공AX 는 붙은 뒤에 모델이 한 번에 받을 수 있는 분량이라는 설정값을 짚었다. 질문이 응답이 없다는 한 줄뿐이어서, 첫 의심을 어디에 두느냐에 따라 대화의 방향이 갈린 것으로 보인다. 다만 에이전트코리아 쪽 대화에는 모델과 설정값에 관한 정보가 없어서, 두 방의 증상이 같은 원인이라고 단정할 수는 없다.
왜 같은 밤에 두 방이 같은 문제를 다뤘는지는 대화만으로 확정하기 어렵다. 두 방의 당일 대화 모두 로컬 모델이 화제에 올랐다는 점, 에이전트코리아 쪽 출발점이 유료 계정 없이 쓰는 길을 찾는 시도였다는 점이 단서다. 구독 없이 aside 를 쓰는 방법으로 로컬 모델이 거론되기 시작한 것을 시사한다.
이번 창의 두 방 대화에서 화두는 aside 를 쓸지보다 aside 에 어떤 모델을 어떻게 붙일지에 가까웠다. 컨텍스트 길이를 늘린 뒤 속도가 어떻게 달라졌는지는 다음 대화에서 확인할 대목이다.