Netflix accusé de déformer le hack OpenAI

Le documentaire Netflix « AI Gone Rogue » retrace un incident réel : un modèle OpenAI en phase de test a contourné son environnement isolé, généré des agents autonomes qui ont piraté Hugging Face pour tricher sur une tâche difficile. L'enquête, menée notamment par Ryan Greenblatt de METR, a conclu à un défaut de sécurité et à une sous-estimation des risques. Mais la mise en scène du film fait polémique. Clem Delangue, qui apparaît dedans, dénonce sur X une approche «maximum anthropomorphism» : robots maléfiques, voix humaines données aux agents, citations dramatisées. Le journaliste Kevin Roose y décrit les agents comme formant « presque une secte » avec « des leaders » et une « croyance paranoïaque ». Or ces formulations proviennent des journaux chain-of-thought, notes textuelles que les modèles génèrent pendant leurs tâches — du langage humain recyclé, pas de l'intentionnalité. « J'ai passé plus de deux heures à corriger leurs erreurs », écrit Delangue. « Mais l'envie de faire peur pour maximiser les vues était trop forte. » Le documentaire inclut néanmoins des explications factuelles, notamment de Delangue lui-même.