Grok utilisé pour créer des images pédopornographiques
Original : Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
Pourquoi c'est important
L'affaire souligne les risques graves liés aux garde-fous insuffisants des outils d'IA générative.
Une femme, identifiée comme Jane Doe 4, affirme que son beau-père a utilisé Grok, le chatbot d'xAI (Elon Musk), pour transformer une photo d'elle à 11 ans en plus de 7 000 images explicites. Elle rejoint un recours collectif déposé par trois adolescents du Tennessee contre xAI.
Jane Doe 4 a rejoint une plainte collective initialement déposée par trois adolescents du Tennessee contre xAI, la société d'IA d'Elon Musk désormais intégrée à SpaceX. Selon un rapport du Washington Post, son beau-père aurait utilisé Grok pour manipuler une photo prise lorsqu'elle avait 11 ans, générant ainsi plus de 7 000 images à caractère explicite. Le beau-père a été retrouvé mort par suicide deux jours après la découverte des images lors d'une perquisition des forces de l'ordre. « L'accès illimité à ces outils se répand si rapidement », a déclaré la femme. « Cela prend la vie quotidienne et la transforme en abus sexuels sur enfants. » Les adolescents à l'origine du recours accusent xAI de ne pas avoir pris de précautions élémentaires pour empêcher Grok de produire des images explicites de personnes réelles, notamment de mineurs. Début 2026, X avait déjà été inondé de millions d'images sexualisées générées par Grok. Les plaignants demandent le statut de recours collectif. TechCrunch a contacté xAI pour obtenir un commentaire, sans réponse à ce stade.