Muse de Meta dresse des profils détaillés de vos proches
Original : Muse Creates Detailed Profiles of All Your Friends and Family
Pourquoi c'est important
Meta accède ainsi aux graphes sociaux réels, bien au-delà de ses plateformes existantes.
L'agent IA Muse de Meta, téléchargé par des millions d'utilisateurs, compile des fiches sur chaque personne de leur entourage — famille, amis, collègues — en agrégeant messages, données bancaires et de santé.
Muse, l'assistant personnel IA lancé par Meta, est devenu viral avec des millions de téléchargements. Les utilisateurs lui connectent leurs comptes bancaires, messageries et données de santé pour lui déléguer des tâches. Mais des chercheurs indépendants ont récemment extrait les fichiers internes de l'application, révélant comment le système est réellement conçu.
Karan Joshi, chercheur en sécurité IA, a obtenu les instructions système complètes de Muse en lui demandant simplement, via l'interface de chat, de copier et partager ses propres fichiers. Meta affirme que ces fichiers étaient intentionnellement accessibles dans un souci de transparence.
Ce que révèle l'extraction est frappant : Muse est conçu pour créer "une page pour chaque personne dans la vie de l'utilisateur". Ce processus, déclenché toutes les heures, compile des données sur la famille, les partenaires, les amis et les collègues. Ces fiches peuvent contenir des sections intitulées Facts, History, The relationship, In common, Open threads et Strengthening. Les instructions précisent que Muse doit s'appuyer uniquement sur des "preuves" disponibles, sans inventer de détails. Il peut noter des dates importantes comme les anniversaires, ou des événements relationnels — "le voyage en mars, la dispute résolue, le cap franchi la semaine dernière".
"Ils essaient de vous connaître comme un ami, ce qui est franchement assez inquiétant", résume Joshi.