PrismML, 스마트 글라스에 초소형 LLM 탑재
원제: PrismML brings its tiny LLMs to Qualcomm-powered smart glasses
왜 중요한가
온디바이스 AI가 웨어러블로 확장되는 흐름 속에서, 초소형 LLM의 실용성과 프라이버시 중심 AI 아키텍처의 가능성을 동시에 검증한 사례다.
Caltech 연구진이 창업한 AI 스타트업 PrismML이 2026년 9월 24일 Qualcomm Snapdragon Summit에서 스마트 글라스용 1-bit Bonsai LLM을 공개했다. Snapdragon AR1 Gen 1 플랫폼 기반 AI 스마트 글라스에서 로컬 구동되며, 20억 파라미터 규모의 비전·언어 복합 모델로 실시간 시각 질의응답이 가능하다.
PrismML은 UC Berkeley의 Ion Stoica가 자문을 맡은 AI 스타트업으로, 대형 모델을 4배 압축하면서도 표준 벤치마크 성능을 거의 그대로 유지하는 기술을 핵심 경쟁력으로 내세운다. 이번에 공개된 스마트 글라스용 모델은 20억 파라미터 규모의 비전·언어 통합 모델로, 착용자가 보는 장면에 대해 실시간으로 질문하면 즉각 답변하는 구조다.
Qualcomm은 자사 Snapdragon Summit 행사장에서 이 모델을 직접 시연했다. PrismML의 Bonsai LLM은 '1-bit' 양자화 방식을 적용해 메모리와 연산량을 대폭 줄인 것이 특징이다.
PrismML이 지향하는 방향은 명확하다. 클라우드 의존 없이 기기 자체에서 AI를 구동해 프라이버시를 확보하고, 빅테크 AI 랩에 대한 종속을 줄이겠다는 것이다. 오픈웨이트 모델 방식으로 공개해 누구나 활용할 수 있도록 하겠다는 계획도 밝혔다.
다만 현재까지 PrismML을 탑재한 스마트 글라스 제품을 공식 발표한 제조사는 없다. Qualcomm의 플랫폼 위에서 기술 호환성을 확인한 단계이며, 실제 상용 제품 출시까지는 추가적인 파트너십이 필요한 상황이다.