Karpathy : l'incompréhension des LLM s'accentue
Original : The gap in shared understanding of LLM capability is widening
Pourquoi c'est important
Ce fossé de perception influence directement la régulation, l'investissement et l'adoption des LLM.
Andrej Karpathy décrit un fossé croissant entre ceux qui comprennent les LLM : 6 milliards de personnes n'y ont pas touché, 20M les utilisent en professionnel, et ~5 000 voient les systèmes internes les plus avancés.
Dans un long post sur X, Andrej Karpathy, ancien directeur de l'IA chez Tesla et co-fondateur d'OpenAI, décrit la compréhension des LLM non plus comme un débat entre deux camps, mais comme un entonnoir à trois niveaux très inégaux.
Au bas de l'entonnoir : environ 6 milliards de personnes (75 % de la population mondiale) n'ont presque jamais interagi avec ces systèmes. Un cran au-dessus, 1 à 2 milliards d'utilisateurs occasionnels voient surtout un chatbot amélioré, un substitut à Google ou un assistant rédactionnel. Karpathy note que même des cadres dirigeants, pourtant informés intellectuellement, restent dans cette catégorie.
Vient ensuite un groupe d'environ 20 millions de professionnels (0,2 %) travaillant quotidiennement avec des LLM de pointe en mathématiques et en code. Pour eux, des projets autrefois longs de plusieurs semaines se bouclent désormais en quelques prompts via des agents autonomes. Karpathy lui-même rappelle qu'il y a moins d'un an, il écrivait encore son code manuellement.
Au sommet : environ 5 000 personnes (0,00006 %) accèdent à des systèmes internes de toute première ligne. Karpathy décrit des essaims de milliers d'agents collaborant sur des projets logiciels géants, découvrant de nouvelles sciences, faisant avancer les mathématiques — des travaux qui auraient exigé des années à des équipes d'élite. Il souligne que la revue humaine commence à peiner à suivre le rythme de production de ces systèmes.