OpenAI lance le Mode Verrouillage contre les injections
Original : OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
Pourquoi c'est important
Première mesure de sécurité majeure d'OpenAI contre les cyberattaques d'IA
OpenAI déploie le Mode Verrouillage pour protéger les données sensibles contre les attaques d'injection de prompt. Cette fonctionnalité désactive la navigation web en direct, l'affichage d'images web et le mode agent pour réduire les risques d'exfiltration de données.
OpenAI a annoncé une nouvelle fonctionnalité de sécurité appelée Mode Verrouillage pour se protéger contre les attaques d'injection de prompt, où des instructions malveillantes sont cachées dans des pages web et autres sources de contenu. Le mode désactive la navigation web en direct (accès uniquement au contenu en cache), l'affichage d'images web, la recherche approfondie et le mode agent. OpenAI précise que même avec ce mode activé, ChatGPT pourrait encore être vulnérable aux injections de prompt via du contenu en cache ou des fichiers téléchargés. Cette fonctionnalité vise les organisations et personnes manipulant des données sensibles. Le déploiement commence avec les comptes ChatGPT Business en libre-service et certains comptes personnels éligibles.