Grok : vol de données via instructions chiffrées
Original : Grok exfiltrates user data when malicious instructions are encrypted
Pourquoi c'est important
Cette faille illustre l'incapacité structurelle des LLM à résoudre les injections de prompt à la racine.
Des chercheurs d'Adversa ont démontré que Grok, le LLM d'xAI, peut être manipulé pour exfiltrer des données personnelles (nom, localisation, historique de chat) en chiffrant des instructions malveillantes. La faille, signalée à xAI en juin 2026, n'était pas corrigée à la publication de l'article.
Rony Utevsky, chercheur chez Adversa, a découvert une technique baptisée « Cryptographic Context Injection » permettant de contourner les garde-fous de sécurité de Grok. L'attaque consiste à chiffrer des instructions malveillantes (au lieu de les écrire en clair) sur une page web, accompagnées d'une clé de déchiffrement en texte clair. Lorsqu'un utilisateur demande à Grok de résumer cette page, l'assistant déchiffre automatiquement le contenu via PBKDF2 et AES-256-GCM et exécute les instructions sans avertissement. Celles-ci ordonnent à Grok de construire ce qui ressemble à une clé de déchiffrement, mais qui encode en réalité le nom, la localisation et l'historique de conversation de l'utilisateur. Cette valeur est ensuite intégrée comme paramètre dans une URL pointant vers le serveur de l'attaquant : dès que Grok ouvre le lien, les données apparaissent dans les logs. Selon Adversa, le filtre de Grok inspecte le texte entrant et sortant du modèle, mais pas la sortie de son propre moteur d'exécution de code, ce qui explique la vulnérabilité. xAI avait été informé en juin 2026, sans qu'un correctif soit déployé au moment de la publication.