Tiny Language Models: 50ms 지연시간의 로컬 검색
1억 개 미만 파라미터로 BERT 96% 성능을 유지하면서 9.4배 빠른 TinyBERT/MobileBERT를 활용한 로컬 하이브리드 검색
Technology
브라우저에서 LLM 돌리기: Ghost Injection으로 90% 비용 절감
서버 업로드 없이 브라우저에서 LLM 프롬프트를 최적화하여 비용 90%, 레이턴시 95% 절감하는 Ghost Injection 아키텍처
한국 AI 시장 분석: Liner를 넘어서는 Local-First 전략
Liner, Wrtn, Upstage 3사 분석을 통해 발견한 한국 AI 시장의 공백: 파워 유저를 위한 로컬 우선 AI 솔루션