Meredith Whittaker : les chatbots IA ne sont pas vos amis
Original : Signal’s Meredith Whittaker wants you to remember that AI chatbots ‘are not your friends’
Pourquoi c'est important
Alerte majeure sur les risques de vie privée liés à l'intégration croissante des assistants IA dans les services numériques personnels.
La présidente de Signal, Meredith Whittaker, met en garde contre les chatbots IA comme ChatGPT et Claude, affirmant qu'ils ne sont pas des amis conscients mais des systèmes moyennant les données existantes, soulevant des préoccupations sur la vie privée.
Meredith Whittaker, présidente de Signal, a exprimé des inquiétudes significatives concernant les chatbots IA lors d'une interview avec Bloomberg. Elle a déclaré : « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles. » Whittaker a reconnu utiliser occasionnellement les outils IA pour « formater un document ici et là », mais a insisté sur le fait qu'elle ne pose pas de questions aux systèmes IA, argumentant qu'elle prend son travail intellectuel au sérieux et ne souhaite pas que le processus de réflexion soit éclipsé par des réponses moyennes de données existantes. Elle a également critiqué la vision de Mustafa Suleyman, PDG de Microsoft AI, selon laquelle les utilisateurs pourraient laisser Copilot gérer tous leurs achats de Noël. Whittaker a souligné que ce scénario nécessiterait de donner au système un accès généralisé à sa carte de crédit, son navigateur, Signal, sa messagerie familiale, son adresse personnelle et son calendrier. Elle a qualifié cet accès pervasif de « backdoor » pour Signal.