Ternlight : modèle d'embedding 7 Mo tournant dans le navigateur
Original : Ternlight – 7 MB embedding model that runs in browser (WASM)
Pourquoi c'est important
L'inférence d'embedding 100 % client ouvre la voie à des apps IA sans dépendance serveur.
Ternlight est un modèle d'embedding ultra-léger (7 Mo, variante mini à 5 Mo) fonctionnant entièrement en WASM dans le navigateur, sans API ni serveur. Il génère des embeddings en ~5 ms sur CPU et s'intègre via un seul package npm.
Ternlight est une bibliothèque d'embedding texte conçue pour fonctionner directement dans le navigateur via WebAssembly (WASM), sans aucun appel réseau ni GPU requis. Le package principal `@ternlight/base` pèse 7 Mo, tandis que la variante `@ternlight/mini` atteint seulement 5 Mo. La latence d'inférence annoncée est d'environ 5 ms par appel sur CPU standard. L'intégration se fait en trois lignes de code JavaScript via npm (`npm install @ternlight/base`), sans étape de téléchargement de modèle séparée. L'API expose des fonctions `embed()` et `similar()` permettant la recherche sémantique locale. Le modèle repose sur une architecture Transformer utilisant des poids ternaires (BitLinear), ce qui explique sa taille compacte. Une démo interactive permet d'effectuer des recherches sémantiques dans la documentation officielle de React, entièrement côté client. Après le premier chargement, le moteur est mis en cache, éliminant tout trafic réseau ultérieur. La licence est MIT.