OCR 체험 페이지에 쏟아진 두 방의 반응

어제 저녁, 개발사 대표 한 사람이 OCR 체험 페이지를 열었다는 소식이 두 방에 거의 같은 때에 올라왔다. OCR은 사진이나 스캔 속 글자를 컴퓨터가 읽을 수 있는 글로 바꾸는 기술을 말한다. 두 방에 같은 체험 페이지를 알린 개발사 대표의 발화자 이름이 같아, 이 기사는 그를 체험 페이지를 연 대표라고 부른다. 기사는 같은 페이지가 두 방에 나란히 돌았다는 사실까지만 적고, 한 방의 반응을 다른 방의 이유로 풀지 않는다. 방마다 그 방의 발화만 인용했다.

에이전트코리아, 악필 시험에서 서버 비용까지

에이전트코리아에서 체험 페이지를 연 대표는 이렇게 알렸다.

체험 페이지 하나 열어봤습니다

곧이어 같은 대표는 인식 품질에 단서를 달았다.

속도를 위해 Q4버전이라 약간 악화되긴 했는데

Q4가 정확히 무엇을 뜻하는지는 대화에서 풀리지 않았다. 다만 속도를 위해 인식이 조금 나빠졌다는 설명으로 읽힌다.

먼저 써 본 한 참가자는 한 번에 한 페이지만 되는 듯하다고 짚었고, 스캔본 파일을 통째로 올렸다가 막힌 경험을 털어놓았다.

아무생각없이 스캔본 파일 올리고 왜 안되지? 이러고 있었슴

이후 대화는 한참 동안 손글씨 시험으로 흘렀다. 스캔본 이야기를 꺼낸 그 참가자가 악필 시험이라며 여러 글씨를 연달아 읽혀 보았고, 그중에 다른 참가자의 아들이 썼다는 글씨도 있었던 것으로 보인다. 무엇을 올렸는지는 대화 글로 남아 있지 않지만, 시험한 참가자는 그 결과를 이렇게 전했다.

아들 글씨는.. 인식 불가네요ㅛ

체험 페이지를 연 대표도 이 결과를 보고 짧게 받았다.

기계도 포기

대표는 시험이 이어지자 글씨를 두고 이런 말도 보탰다.

기계는 몰라도 되지 않을까...

시험을 이어 가던 같은 참가자는 손글씨를 두고 이런 평을 남겼다.

암호학이 필요없을 문자다

또 다른 참가자는 의사들이 차트를 꼬부랑 글씨로 써서 차트 글을 AI로 읽어 정리하는 개발이 어렵다고 알고 있다고 했다. 이것은 그 참가자가 아는 바를 전한 말이고, 이 방에서 확인된 내용은 아니다. 그 뒤 아들 글씨의 주인으로 보이는 참가자는 자기 아들의 글자가 난이도 극상일 것 같다고 했다.

밤에는 화제가 속도로 옮겨 갔다. 체험 페이지를 연 대표는 자기가 올린 서버의 처리량을 이렇게 전했다.

4090에서 약 시간당 6천페이지 처리가 되는군요

4090은 그래픽카드 모델 번호로 통한다. 이 수치는 대표가 말한 값이고 이 방에서 따로 검증된 값은 아니다. 먼저 써 본 참가자는 반응이 컸다.

쓸만이 아니라.. 대박인데요?

대표는 같은 모델이 글자 읽기에서 임베딩까지 한 번에 맡는다고 설명했다.

OCR부터 임베딩까지 원큐모델

임베딩이 무엇인지는 대화에서 풀리지 않았다. 대표는 그 기능이 지금은 꺼져 있다고 했다.

이어서 다른 참가자가 질문을 던졌다. 자기 회사 대표가 CPU만으로 작은 언어 모델을 서비스하길 원한다는 것이었다.

저희 대표님이 lamma.cpp로 랩핑한 2 ~ 4b정도 되는 llm으로 서비스하길 원하는데 이거 가능한거 맞나요?

여기서 질문한 참가자의 회사 대표와 체험 페이지를 연 대표는 서로 다른 사람이다. 체험 페이지를 연 대표가 질문한 참가자 회사 대표가 쓰려는 장비를 되묻자, 질문한 참가자는 CPU와 램만 쓴다고 답했다. 체험 페이지를 연 대표는 어렵겠다는 쪽이었다.

동시처리가 빡셀듯요

그 사이 먼저 써 본 참가자가 후처리도 되느냐고 묻자, 체험 페이지를 연 대표는 이미지에서 바로 개인정보를 처리하는 것도 된다고 답했다.

체험 페이지를 연 대표는 비용도 따져 보았다.

사용량 동일하게 하려면 차라리 클라우드 런 GPU 대여가 더 쌈

질문한 참가자는 자기 회사 대표가 이미 되는 줄로 믿고 있어 난감하다는 속사정을 적었다.

대표가 어디서 주워들어가지고 된다고 하는데 진짜 난감합니다. 테스트중임

공공AX 네트워크, 16쪽 PDF와 수식 표기

공공AX 네트워크에서는 체험 페이지를 연 대표가 시험을 부탁하는 글을 올렸다.

저희 OCR 데모 페이지 열어봤습니다 한번 테스트 해보셔요!

한 시간 가까이 지나 한 공무원 참가자가 16쪽 PDF를 넣어 본 경험을 전했다.

16쪽 짜리 pdf 넣어봤는데, 결과창에서 다음페이지로 넘기는게 없고

같은 참가자는 이어서 페이지 번호를 넣을 때마다 변환이 되풀이되는 것 같다고 했고, 이용 한도가 다 찼다고도 썼다.

그래서 16장짜리를 첫페이지에서 7페이지까지 눌렀더니 한도 100장이 다 차버렸어요. 제가 잘못쓴거일수도 있고용

한도 100장이라는 숫자는 이 참가자가 말한 값이다. 체험 페이지를 연 대표는 쓰는 사람 탓으로 돌리지 않고 곧바로 받았다.

아뇨아뇨 UX가 이상하면 저희가 고쳐야죠 ㅎㅎ 서버 한도도 리셋해두겠습니다

밤이 깊어지자 같은 참가자가 결과를 다시 평가했다. 표는 잘 나온다고 했고, 그림은 휴대폰에서는 링크로 나온다고 했다.

표는 잘 나오고, 그림은 일단 핸드폰에서는 링크로 나오고요. 저는 항상 저 수식이 다른 ocr 도구에서도 안되더라고요

체험 페이지를 연 대표는 그 직후 수식은 제대로 나온 것으로 보인다고 답했다. 참가자가 아쉬워한 것은 times, frac 같은 표기가 그대로 보이는 점이었다.

times , frac 요런게 보기가 힘들어서, 그냥 수식 그자체로 들어갔으면 좋겠어서요 ㅎㅎ

대표는 반영을 약속했다.

넵 저 식 그대로 나오게 해두겠습니다

대표는 복사 버튼도 만들겠다고 했지만, 현재 출력 형식이 원래 그렇다는 점도 짚었다.

출력 양식이 저거지 md나 html에선 렌더링이 될거라서..

참가자는 마크다운이나 HTML에서 렌더링이 된다는 사실을 몰랐다고 답했다.

아 렌더링이 되는군요.그거까지는 잘 몰랐어요 ㅎㅎ 반영은 약속으로 오갔을 뿐, 이 대화 안에서 고쳐진 결과가 확인되지는 않았다.

나란히 놓고 보면

두 방에서 시험의 방향은 달랐다. 에이전트코리아에서는 사람도 알아보기 어려운 손글씨라는 한계 사례와 처리 속도, 작은 모델을 CPU와 램만으로 서비스할 수 있는가라는 비용 문답이 중심이었다. 공공AX 네트워크에서는 실제 문서 파일을 넣었을 때 쓰는 사람이 마주치는 화면 동작과 출력 형식이 중심이었다. 이런 차이는 방마다 시험한 사람이 달랐다는 사실을 보여줄 뿐 둘 사이의 인과를 말해 주지는 않는다.

두 방에서 모두 보이는 것은 체험 페이지를 연 대표의 발화다. 한쪽에서는 인식 품질에 단서를 달고 처리 속도를 말했고, 다른 쪽에서는 쓰는 사람이 겪은 불편에 고치겠다고 답했다. 해석을 더하자면, 이 페이지는 데모 단계에서 쓰는 사람의 반응을 받고 있는 모습으로 보인다. 다만 이 기사가 확인한 것은 말과 약속까지다.