PrismML : des LLM miniatures sur lunettes Qualcomm
Original : PrismML brings its tiny LLMs to Qualcomm-powered smart glasses
Pourquoi c'est important
L'IA embarquée sur lunettes AR pourrait redéfinir les usages sans dépendance au cloud.
PrismML, startup fondée par des chercheurs du Caltech et conseillée par Ion Stoica (UC Berkeley), a présenté au Snapdragon Summit de Qualcomm son modèle Bonsai LLM 1-bit — un modèle de 2 milliards de paramètres, 4x plus léger — tournant localement sur la plateforme Snapdragon AR1 Gen 1 pour lunettes connectées.
Lors du Snapdragon Summit de Qualcomm ce mercredi, PrismML a dévoilé une version de son LLM Bonsai 1-bit adaptée aux lunettes intelligentes fonctionnant sur la puce Snapdragon AR1 Gen 1. Le modèle, fort de 2 milliards de paramètres, est optimisé pour la vision et le langage : il permet à l'utilisateur d'interroger en temps réel ce qu'il observe dans son champ de vision, sans passer par le cloud.
La spécialité de PrismML reste la compression agressive de grands modèles — ici par un facteur 4 — tout en préservant l'essentiel de leurs performances sur les benchmarks standards. La startup, fondée par des chercheurs du Caltech et conseillée par Ion Stoica de l'UC Berkeley, défend une vision d'IA à poids ouverts, exécutée directement sur les appareils. L'argument commercial : s'affranchir des promesses de confidentialité des labs propriétaires et réduire la dépendance à des serveurs distants énergivores.
Cet accord avec Qualcomm s'inscrit dans cette trajectoire. Nuance de taille : aucune lunette commerciale intégrant PrismML n'a encore été annoncée à ce jour.