L'IA remplace ceux qui font tenir le monde
Original : We need smart people who give a shit
Pourquoi c'est important
Le remplacement des experts humains par l'IA touche désormais des infrastructures critiques.
Un billet de blog argue que les pannes récentes chez Microsoft 365, l'ATC, United Airlines, la NSA et Apple ont une cause commune : le départ des experts humains remplacés par l'IA générative, moins chère mais incapable de vraiment comprendre les systèmes complexes.
Justin Michael, ancien employé de Stripe, pose une thèse simple : le monde tient grâce à des gens intelligents qui s'investissent vraiment. Son exemple central est l'ACH, le système de paiement américain — vieux, truffé de failles, mais fiable en pratique grâce aux équipes qui le connaissent sur le bout des doigts et refusent de le laisser tomber. Ce n'est pas la technologie qui fonctionne, c'est l'humain derrière.
Il observe ensuite une série de pannes survenues en l'espace d'une semaine : Microsoft 365, le contrôle aérien américain, United Airlines, la NSA, plusieurs grandes banques, Apple. Les autorités nient tout lien entre ces incidents. Mais Michael y voit un fil rouge : la disparition progressive de ces experts irremplaçables, poussés dehors au profit de l'IA générative.
Pour les directions, l'argument est séduisant — une machine moins chère, disponible 24h/24, sans congés ni revendications. Le problème, selon lui : les managers déconnectés du terrain ne font pas la différence entre un système maintenu à bout de bras par des humains compétents et du contenu généré par un LLM. Tout n'est que « output ». Or l'IA générative, insiste-t-il, n'est ni intelligente ni motivée : elle simule, elle ne comprend pas.