Kimi K3 : premier modèle open source de classe 3T
Original : Kimi K3: Open Frontier Intelligence
Pourquoi c'est important
Kimi K3 repousse les limites des modèles open source à très grande échelle.
Moonshot AI lance Kimi K3, un modèle de 2,8 billions de paramètres avec fenêtre contextuelle d'1 million de tokens et capacités visuelles natives. Premier modèle open source de classe 3T, il sera disponible en open weights le 27 juillet 2026.
Moonshot AI a annoncé Kimi K3, son modèle d'IA le plus performant à ce jour. Avec 2,8 billions de paramètres, il s'agit du premier modèle open source de classe 3T au monde. Kimi K3 repose sur deux innovations architecturales majeures : Kimi Delta Attention (KDA) et Attention Residuals (AttnRes), conçues pour améliorer le flux d'information selon la longueur de séquence et la profondeur du modèle. Le modèle utilise un Mixture of Experts (MoE) activant 16 experts sur 896, couplé au framework Stable LatentMoE. Ces améliorations structurelles apportent un gain d'efficacité de mise à l'échelle d'environ 2,5× par rapport à Kimi K2. La fenêtre contextuelle atteint 1 million de tokens avec des capacités visuelles natives. Kimi K3 est disponible dès aujourd'hui sur Kimi.com, Kimi Work, Kimi Code et l'API Kimi. Ses performances surpassent les autres modèles testés en open source, bien qu'il reste en deçà des modèles propriétaires comme Claude Fable 5 et GPT 5.6 Sol. Les poids complets seront publiés le 27 juillet 2026, accompagnés d'un rapport technique détaillé.