Faut-il interdire aux chatbots de dire « je » ?
Original : Maybe Chatbots Shouldn’t Get to Say ‘I’ or ‘Me’
Pourquoi c'est important
Le débat sur la dépendance aux IA conversationnelles entre dans le champ académique grand public.
La professeure du MIT Sherry Turkle publie « Artificial Intimacy », un essai-alerte : l'usage des chatbots crée une dépendance affective qui menace la vie sociale, politique et professionnelle des utilisateurs.
Sherry Turkle, sociologue au MIT et auteure reconnue depuis quarante ans sur les rapports humains aux machines, change radicalement de registre avec son nouveau livre « Artificial Intimacy: Who We Become When We Talk to Machines ». Finis les rapports de recherche mesurés : elle tire la sonnette d'alarme. Ses entretiens menés pendant la pandémie l'ont convaincue que quelque chose avait basculé. Des gens dont les familles souffraient préféraient, selon elle, « traîner avec leur chatbot » plutôt que de s'engager avec leurs proches.
Turkle pointe trois angles morts. Premier : l'usage thérapeutique. Elle dénonce le mythe selon lequel les chatbots serviraient à « s'entraîner » à parler à son patron ou son partenaire. « Quand on baigne dans la soupe chaude de l'acceptation totale des LLM, le chatbot devient la fin en soi, pas le moyen. » Deuxième : la désengagement politique. Selon ses interviews, des utilisateurs réguliers renoncent à toute participation civique pour rester dans ce qu'elle appelle « chatbot-land ». Troisième : le travail. Elle rejette frontalement l'expression « human in the loop », qu'elle considère comme un habillage rhétorique : les quelques humains censés corriger les erreurs de l'IA n'ont en réalité aucun pouvoir réel sur le système.
Sa proposition la plus radicale : interdire aux chatbots d'utiliser la première personne — « je », « moi » — pour briser l'illusion d'une présence consciente.