초파리 뇌 구현체와 헐값 OCR, 한 참가자의 두 갈래 실험

4090 GPU 위에서 멈춘 학습, 초파리에게 넘어가다

13일 오후 1시 16분, 한 참가자가 진행 중이던 작업 이야기를 꺼냈다. PII(개인식별정보) 학습을 4090 GPU에서 잠깐 멈춘 사이, 초파리 뇌 구현체에 무엇을 가르칠지 고민하고 있다는 내용이었다. "지금 4090 에서 Pii 학습 잠깐 멈춘김에 초파리한테 스타를 가르칠지 아니면 언어부터 가르칠지 고민중입니다"라는 말대로, 선택지는 스타크래프트 게임 플레이와 언어 학습 두 갈래였다. 한 시간 뒤 다른 참가자가 이 실험의 핵심을 짚었다. "결국에 강화학습을 위한 메모리 저장 영역이 초파리 뇌 구현체에 저장 가능하다 이게 팩트 아닐까요?" 초파리 뇌 구조를 흉내 낸 소형 구현체가 강화학습에 필요한 기억 저장 공간 역할을 해낼 수 있다는 게 이 실험의 관전 포인트라는 지적이었다.

"지금 4090 에서 Pii 학습 잠깐 멈춘김에 초파리한테 스타를 가르칠지 아니면 언어부터 가르칠지 고민중입니다" "결국에 강화학습을 위한 메모리 저장 영역이 초파리 뇌 구현체에 저장 가능하다 이게 팩트 아닐까요?"

두 발 로봇보다 초파리 드론

실험을 진행하던 참가자는 응용 방향도 언급했다. "초파리 드론한테 일시키는게 더 편할수도 있어요"라며, 이족보행 로봇보다는 초파리 뇌 구조를 얹은 소형 드론에 작업을 맡기는 쪽이 더 실용적일 수 있다고 봤다. 값싸고 가벼운 신경 구조를 실제 작업 도구로 옮기려는 구상인 셈이다.

소넷 50원 대 자체 호스팅 5 ~ 10원

같은 참가자는 별도로 진행 중인 사업화 이야기도 꺼냈다. OCR을 소넷(앤트로픽 클로드 소넷 모델) 계열로 돌리면 페이지당 50원 정도가 나오는데, 직접 호스팅한 자체 모델로는 5 ~ 10원도 안 나온다는 것이다. "Ocr 모델 호스팅한놈으로 돌리면 5-10 원도 안나오는데"라는 언급에 이어 "OCR은 덴스 1B 정도고 일반 성능은 충분히 나옵니다"라는 설명이 따라붙었다. 10억 개 안팎의 매개변수를 가진 덴스(dense, 고밀도) 모델로도 실용적인 OCR 성능이 나온다는 뜻이다. 이 참가자는 이렇게 낮춘 비용 구조의 OCR·ASR 모델을 대형 모델사에 납품하는 사업을 준비하고 있다고 밝혔다.

"Ocr 모델 호스팅한놈으로 돌리면 5-10 원도 안나오는데" "OCR은 덴스 1B 정도고 일반 성능은 충분히 나옵니다"

초파리 뇌 실험과 OCR 사업화는 서로 다른 프로젝트처럼 보이지만, 값싼 연산 구조로 실용적 성능을 뽑아내려는 지향점은 같은 방향을 가리키는 것으로 보인다. 대형 모델사를 상대로 저비용 모델을 납품하겠다는 구상 역시, 범용 모델이 잘하는 작업이라도 특정 태스크에 맞춘 소형 모델로 대체하면 비용을 크게 줄일 수 있다는 판단이 실제 사업 계획으로 이어지고 있음을 보여준다.