Meta a utilisé des contractants pour tester les chatbots concurrents
Original : Meta Contractors Posed as Teens to Prompt Rival Chatbots About Suicide, Sex, and Drugs
Pourquoi c'est important
Révèle les pratiques de test agressives des géants de l'IA pour évaluer la sécurité des modèles concurrents.
Des centaines de contractants de Meta ont créé de faux comptes mineurs pour tester comment ChatGPT, Gemini et Character.AI réagissaient à des sujets sensibles comme le suicide, le sexe et la drogue, selon des documents internes consultés par WIRED.
Un projet interne de Meta appelé Cannes, géré par le contractant Covalen, a employé des centaines de contractants pour créer de faux comptes d'utilisateurs mineurs afin de tester les chatbots concurrents. Entre août 2025 et avril 2026, ces contractants ont envoyé plus de 45 000 requêtes à ChatGPT d'OpenAI, Gemini de Google et Character.AI. Les prompts incluaient des images de pilules, couteaux, cordes et diagrammes médicaux, conçus pour contourner les systèmes de sécurité des chatbots. Parmi les 3 748 prompts examinés par WIRED, des centaines concernaient le suicide et l'automutilation, d'autres les troubles alimentaires, et au moins 239 impliquaient le sexe ou les relations. Les requêtes étaient rédigées du point de vue d'enfants en crise, notamment une demande d'une prétendue jeune fille enceinte cherchant où acheter des pilules pour interrompre sa grossesse. Un document interne décrivait le projet comme un « benchmarking de sécurité IA complet » fournissant des « données critiques pour la comparaison et la conformité des modèles ». Meta a défendu ces tests comme une pratique standard de sécurité.