La méditation et la recherche en apprentissage automatique
Original : Zen and the Art of Machine Learning Research
Pourquoi c'est important
Guide fondamental pour les chercheurs en IA sur la méthodologie et les priorités intellectuelles au-delà des modes passagères.
Jack Morris explore les principes fondamentaux pour devenir chercheur en intelligence artificielle : combiner la lecture et la construction de projets, maintenir la discipline malgré l'incertitude, et maîtriser les concepts fondamentaux plutôt que de suivre les tendances éphémères de 2026.
Selon Jack Morris, devenir chercheur en IA requiert une combinaison de lecture et de construction pratique de projets. Morris compare ce processus à la méditation zen : les insights arrivent de manière aléatoire, et le succès dépend surtout de la persévérance et de la discipline. Il cite Noam Shazeer qui attribue le succès de certaines architectures à la « bienveillance divine », reconnaissant l'élément aléatoire. Morris conseille aux chercheurs débutants de ne pas choisir des sujets populaires depuis moins de six mois, car les tendances changent rapidement. Il recommande plutôt de maîtriser les fondamentaux : comprendre la cross-entropie, l'SVD et les concepts de policy gradients qui ont persisté pendant des décennies. Il avertit contre les projets dont le seul objectif est d'améliorer les benchmarks existants. Morris soulève aussi que l'expérience préalable en recherche IA pourrait être contreproductive, les jeunes chercheurs ayant souvent une meilleure intuition que les vétérans de l'ère pré-scaling.