Les modèles IA : moins de faits, plus de raisonnement
Original : Models Are Getting Dumber on Purpose
Pourquoi c'est important
Ce pivot redéfinit l'architecture des systèmes IA : raisonnement intégré, faits externalisés.
Les laboratoires d'IA réduisent délibérément les paramètres actifs au profit du raisonnement. GLM-5.2 atteint 99,2% sur AIME 2026 avec 40 milliards de paramètres actifs, contre 280 milliards pour GPT-4 en 2023, qui peinait sur ces mêmes problèmes mathématiques.
Une analyse publiée sur w4g1.dev met en évidence une tendance structurelle : les modèles de langage récents obtiennent des scores de raisonnement croissants tout en réduisant drastiquement leur consommation de paramètres actifs par token. GLM-5.2 atteint 99,2% sur AIME 2026 avec ~40 milliards de paramètres actifs, Qwen3.5 obtient 91,3% avec 17 milliards, et DeepSeek V4-Flash tourne avec seulement 13 milliards — contre ~280 milliards estimés pour GPT-4 en 2023.
En revanche, la mémorisation factuelle s'effondre. Sur SimpleQA, le meilleur modèle disponible, Gemini 2.5 Pro, ne répond correctement qu'à 53% des questions. Les modèles Qwen3.5 4B et 9B affichent des taux d'hallucination de 80 à 82% sur les benchmarks de connaissances selon Artificial Analysis.
Ce compromis est intentionnel : les faits nécessitent environ deux bits de mémoire par paramètre, tandis que les procédures de raisonnement se compriment bien mieux. La distillation et le renforcement sur des tâches vérifiables transfèrent efficacement ces capacités vers de petits modèles. De plus, les connaissances factuelles deviennent rapidement obsolètes après chaque entraînement, alors que les procédures logiques restent stables dans le temps. Les laboratoires font donc le choix d'externaliser les faits vers des outils de recherche, et de conserver uniquement la compréhension générale dans les poids.