Des utilisateurs Discord accèdent illégalement à Mythos d'Anthropic
Original : Discord Sleuths Gained Unauthorized Access to Anthropic’s Mythos
Pourquoi c'est important
Révèle les failles de sécurité dans la distribution d'outils IA sensibles
Un groupe d'utilisateurs Discord a obtenu un accès non autorisé à Mythos Preview d'Anthropic, un modèle IA restreint conçu pour détecter des vulnérabilités de sécurité, en exploitant une faille de données chez Mercor et des conjectures sur l'URL.
Malgré les restrictions d'Anthropic sur l'accès à Mythos Preview, des enquêteurs amateurs sur Discord ont contourné les mesures de sécurité. Ils ont analysé des données d'une récente violation chez Mercor, une startup d'entraînement IA, et ont deviné l'emplacement en ligne du modèle basé sur le format d'URL utilisé par Anthropic pour d'autres modèles. Un membre du groupe a exploité ses permissions existantes d'accès aux modèles Anthropic via son travail pour un sous-traitant de l'entreprise. Cette intrusion leur a donné accès non seulement à Mythos mais aussi à d'autres modèles IA non publiés d'Anthropic. Heureusement, selon Bloomberg, le groupe n'a utilisé Mythos que pour construire des sites web simples afin d'éviter la détection, plutôt que pour des activités de piratage.