Discord : bug IA bannit 8 000 utilisateurs innocents
Original : Discord admits AI moderation bug wrongfully banned users over harmless images
Pourquoi c'est important
L'incident illustre les risques croissants de la modération automatisée à grande échelle sur les plateformes.
Discord a reconnu qu'un bug dans son système de modération IA a entraîné le bannissement injustifié de plus de 8 000 utilisateurs en deux mois. Des images inoffensives — tableurs, échiquiers, textures de jeux — ont été incorrectement signalées comme contenus nuisibles depuis mai 2026.
Discord a officiellement reconnu le 7 juillet 2026 qu'un dysfonctionnement de son système de modération automatisée avait conduit au bannissement erroné de plus de 8 000 utilisateurs entre mai et juillet 2026. Le système en cause fonctionne par correspondance d'images avec des bases de données de contenus illicites connus. Bien qu'un membre de l'équipe Trust & Safety soit normalement chargé d'examiner les contenus signalés avant toute action, un bug a court-circuité cette étape humaine, provoquant des suspensions immédiates. Parmi les images incriminées : des feuilles de calcul, des échiquiers, des textures de jeux vidéo et des fonds transparents. 200 comptes supplémentaires ont été bannis le week-end précédant la correction du problème. Discord a indiqué que la restauration de tous les comptes affectés est en cours et a promis de « travailler sur de meilleures protections pour que cela ne se reproduise plus ». Sur X et Reddit, des utilisateurs ont signalé des suspensions permanentes pour simple envoi d'images à motifs de grille. Certains avancent que ces motifs rappellent des techniques utilisées pour dissimuler des contenus illicites aux systèmes de détection automatique. Des incidents similaires ont touché Instagram et Facebook l'an passé.