Bonsai 27B : un modèle 27B qui tourne sur smartphone
Original : Bonsai 27B: A 27B-Class model that runs on a phone
Pourquoi c'est important
Cette avancée ouvre la voie à des modèles 27B souverains et hors ligne sur appareils grand public.
PrismML lance Bonsai 27B, le premier modèle de classe 27B capable de fonctionner sur smartphone. Basé sur Qwen3.6 27B, il se décline en deux variantes : ternaire (5,9 Go) et 1-bit (3,9 Go), cette dernière tenant dans la mémoire d'un iPhone 17 Pro. Disponible sous licence Apache 2.0.
PrismML annonce le 14 juillet 2026 le lancement de Bonsai 27B, modèle multimodal basé sur Qwen3.6 27B et premier modèle de sa catégorie à fonctionner sur téléphone. Le problème central était la taille : un modèle 27B nécessite environ 54 Go en précision 16 bits, et 18 Go en 4 bits, ce qui le rend inutilisable sur mobile.
Deux variantes sont proposées. La version ternaire ({−1, 0, +1}) pèse 5,9 Go à 1,71 bit effectif par poids, orientée qualité pour laptop. La version 1-bit ({−1, +1}) pèse 3,9 Go à 1,125 bit effectif, conçue pour s'exécuter sur un iPhone 17 Pro.
Les deux variantes prennent en charge la vision (tour visuelle en 4 bits), un contexte de 262K tokens, le décodage spéculatif et les boucles agentiques. Sur 15 benchmarks, la version ternaire conserve 95 % des performances du modèle pleine précision, et la version 1-bit en conserve 90 %. En densité d'intelligence (score par Go), la version 1-bit atteint 0,53/Go, soit plus de 10× la baseline pleine précision. Tout est publié sous licence Apache 2.0.