Kev : modèles de décision légers basés sur Qwen3.5

Original : Kev: Tiny Jev-like family of decision models built on top of Qwen3.5

Pourquoi c'est important

Les modèles de décision locaux réduisent la dépendance aux APIs cloud pour les tâches de classification.

Jared Palmer a publié Kev, une famille de modèles de décision open source (0.8B, 4B, 9B paramètres) construits sur Qwen3.5, inspirés de l'architecture Jev. Ils supportent les questions oui/non, choix multiples et notation, et tournent sur CUDA ou Apple Silicon.

Kev est un projet open source publié sur GitHub par Jared Palmer. Il s'agit d'une famille de petits modèles de décision — 0.8B, 4B et 9B paramètres — construits sur Qwen3.5, dont l'architecture s'inspire du travail décrit dans « Jev's Architecture Unmasked ».

Le projet prend en charge trois types de questions dans une même requête : oui/non (noul), choix multiples (choice) et notation (score). Les questions partagent le texte d'entrée mais sont isolées les unes des autres. L'API est compatible avec System One de TypeSafe, ce qui permet d'utiliser leur SDK Python directement contre un serveur local.

Side matériel, les modèles 4B et 9B tiennent dans 32 Go de RAM en bf16, ce qui les rend utilisables sur un Mac récent. Un playground web permet de tester ses propres entrées et d'observer l'effet de l'ordre des options sur les réponses. Les poids pré-entraînés sont disponibles, et le code d'entraînement est fourni pour ceux qui veulent affiner leurs propres versions. Le dépôt cumule déjà 2 100 étoiles et 109 forks.

Source

github.com — Lire l'original →