Des malwares ajoutent du texte d'armes nucléaires pour tromper l'IA
Original : Malware developers added nuclear and biological weapons text to to their spyware
Pourquoi c'est important
Révèle l'exploitation des protections IA par les cybercriminels
Des développeurs de malwares intègrent du texte sur les armes nucléaires et biologiques dans leurs logiciels espions pour déclencher les refus de sécurité des LLM et éviter l'analyse par scanners IA.
John Scott-Railton révèle une nouvelle technique d'évasion : les créateurs de malwares ajoutent délibérément du contenu sur les armes nucléaires et biologiques dans leur code pour exploiter les mécanismes de sécurité des LLM. Cette approche vise à déclencher les refus automatiques des modèles d'IA lors de l'analyse de sécurité, permettant aux logiciels malveillants d'échapper à la détection. Le chercheur souligne que les modèles avec des refus agressifs créent des angles morts que les attaquants découvrent et exploitent, suggérant un besoin de modèles moins restrictifs pour la cybersécurité.