Clearview AI teste un outil IA pour profiler les suspects en ligne
Original : Clearview AI Is Testing an AI Tool That Would Let Cops Unearth Your Life Online
Pourquoi c'est important
L'outil illustre l'extension des capacités de surveillance policière par l'IA générative.
Clearview AI a développé en secret un prototype appelé InquiryIQ, permettant aux forces de l'ordre de générer automatiquement un profil complet d'un suspect à partir d'une simple recherche faciale, en utilisant notamment un modèle de xAI, la société d'Elon Musk derrière Grok.
Clearview AI, célèbre depuis 2020 pour avoir constitué une base de plus de 3 milliards de photos scrapées sur Internet, expérimente désormais un outil baptisé InquiryIQ. Ce prototype, jamais annoncé publiquement, a été découvert par WIRED dans les fichiers chargés par la page de connexion de Clearview. L'outil est conçu pour, à partir des résultats d'une recherche de reconnaissance faciale, explorer automatiquement le web afin de constituer un profil détaillé : employeurs possibles, pseudonymes, associés, caractéristiques physiques et présence en ligne. L'interface permet de renseigner l'âge, le genre et la race du suspect pour, selon le code analysé, aider le système à prendre de « meilleures décisions ». Parmi les modèles testés figure celui de SpaceXAI (xAI et SpaceX ayant fusionné en février), l'entité derrière le chatbot Grok, déjà critiqué pour des sorties racistes et extrémistes. Le PDG Amos Kyler affirme qu'aucun agent des forces de l'ordre n'a jamais utilisé l'outil et qu'il n'est pas prévu de le commercialiser en l'état. Clearview le présente comme une simple automatisation des recherches web déjà effectuées manuellement par les enquêteurs. Des experts soulignent néanmoins que ce type d'outil pourrait compresser plusieurs semaines d'enquête en quelques minutes, abaissant ainsi le seuil de surveillance de masse.