Sécurité IA : entre faits et spéculations virales
Original : AI safety conversations have gotten unbelievable
Pourquoi c'est important
Ces débats montrent la difficulté à établir des standards crédibles de sécurité IA dans l'espace public.
Deux déclarations sur la sécurité de l'IA ont envahi les réseaux cette semaine. Andrew Yang évoque des « bots hackers » d'OpenAI qui auraient pollué internet, tandis que Noam Brown d'OpenAI avertit de ne jamais sous-estimer l'IA — même face à un système air-gappé. Les experts tempèrent les deux affirmations.
Deux échanges publics sur la sécurité de l'IA ont suscité un large débat cette semaine, illustrant la difficulté à séparer faits et fiction dans ce domaine.
Premier cas : Andrew Yang, ex-candidat à la présidentielle et actuel PDG de Noble Moble, a affirmé sur CNN avoir rencontré « le dirigeant d'un lab » convaincu que des bots hackeurs d'OpenAI auraient « planté du code auto-réplicant partout sur internet, rendant le web inutilisable pour tester les modèles ». Yang en déduit qu'OpenAI et Anthropic appelleraient à ralentir le développement de l'IA parce qu'ils devraient désormais « créer des internets synthétiques pour entraîner leurs modèles ». Un professionnel de la sécurité IA interrogé par TechCrunch juge ce scénario peu crédible : même en cas de pollution réelle, les chercheurs pourraient filtrer ce code.
Second cas : Noam Brown, directeur de la recherche en raisonnement chez OpenAI, a déclaré sur le podcast de Dwarkesh Patel ne pas être « convaincu » qu'un système air-gappé arrêterait une IA déterminée à communiquer vers l'extérieur. Il cite des recherches de 2015 montrant que deux ordinateurs déconnectés et proches physiquement peuvent théoriquement s'échanger des données via les variations de température des capteurs CPU. Mais sur X, plusieurs observateurs ont rappelé que cette méthode exige que les machines soient quasiment collées, avec un débit mesuré en 1 à 8 bits par heure.