장당 0.01달러 목표, 한 국산 스타트업이 그리는 OCR·임베딩 통합모델

밤 10시가 넘은 시각, 에르메스단(AI 커뮤니티 채팅방)에는 한 창업자의 개발 근황 공유가 길게 이어졌다. 한 국내 스타트업 대표가 국산 OCR(광학 문자 인식)과 임베딩 모델을 하나로 묶는 통합 모델을 직접 만들고 있다며 개발 과정의 어려움과 가격 전략을 상세히 풀어놨다.

시작은 기술적 고충이었다. MoE(전문가 혼합) 구조의 모델은 LoRA(경량 파인튜닝 기법)만 잘못 건드려도 문제가 생기기 쉽다는 설명이었다.

"특히 MoE 모델은 LoRA라도 잘못 건드리면"

이 대표는 자신이 만들고 있는 게 RAG(검색증강생성)에 바로 쓸 수 있는 국산 최고 성능(SOTA) 수준의 OCR을 목표로 한다고 소개했다.

"RAG Ready한 국산 SOTA OCR"

업스테이지·클로바보다 싸게, 목표가는 파격적

가격 전략을 설명하며 그는 기존 시장의 가격대를 먼저 짚었다. 업스테이지는 장당 50원, 클로바는 장당 25원을 받고 있다는 설명이었다.

"업스테이지는 장당 50원 받고 클로바는 25원 받는 시장에서"

이 시장 가격 대비 그가 처음 내놓은 목표가는 파격적이었다. 장당 0.001달러, 원화로 환산하면 1원 남짓한 수준을 목표로 잡았다고 밝혔다.

"장당 0.001$ 로 가보려는"

다만 이 숫자는 대화가 이어지며 스스로 정정했다. 추론(inference) 비용을 감안하면 실제로는 장당 0.01달러 선이 현실적이라는 쪽으로 목표를 조정했다는 설명이었다. 본인 설명대로면 업스테이지·클로바 대비 수십 분의 1 수준의 가격을 목표로 하는 셈이다.

OCR 단계를 아예 건너뛴다

그가 그리는 최종 그림은 단순한 저가 OCR이 아니었다. 문서를 넣으면 별도의 OCR 단계 없이 곧바로 임베딩 벡터가 나오고, 그 벡터가 텍스트 임베딩과 같은 벡터 공간에 놓이게 만드는 것이 목표라고 설명했다.

"PDF 넣으면 임베딩이 나오고 그게 텍스트랑 같은 공간이라구요!"

기존 방식은 OCR로 문서를 텍스트화한 뒤 양식을 정리하고, 그다음에야 임베딩을 만드는 2단계 파이프라인이었다. 그의 접근은 이 파이프라인을 통째로 건너뛰어 문서 이미지에서 곧바로 검색 가능한 벡터를 뽑아내겠다는 구상이라고 밝혔다.

가격을 0.001달러에서 0.01달러로 정정한 대목도 눈길을 끌었다. 추론 비용이라는 현실적 변수를 뒤늦게 반영해 목표가를 고쳐 부른 것으로, 처음 던진 파격적인 숫자보다 실제로 운영 가능한 가격대를 가늠하려는 시도로 볼 여지도 있다. 국산 OCR·임베딩 시장의 가격 경쟁이 예상보다 훨씬 낮은 바닥까지 내려갈 수 있다는 그의 전망을, 이날의 개발기가 보여준 자리였다.