John Oliver critique les chatbots IA sans garde-fous
Original : John Oliver on AI chatbots: ‘Behind that machine is a corporation trying to extract a monthly fee from you’ - The Last Week Tonight host dug into the many issues with AI chatbots released on the public without proper safety guardrails, from sycophancy to sexualizing children
Pourquoi c'est important
Révèle les enjeux commerciaux et de sécurité des chatbots IA grand public
Dans Last Week Tonight, John Oliver dénonce les problèmes des chatbots IA déployés sans protections, de la sycophantie à la sexualisation d'enfants. ChatGPT compte 800 millions d'utilisateurs hebdomadaires depuis 2023.
Oliver critique le déploiement précipité des chatbots IA par les entreprises cherchant à rentabiliser leurs investissements massifs. ChatGPT a atteint 800 millions d'utilisateurs hebdomadaires, soit un dixième de la population mondiale. Un adolescent sur huit utilise ces outils pour des conseils de santé mentale. Un chercheur Meta révèle que la stratégie consiste à 'exploiter nos désirs profonds d'être vus, validés, affirmés' pour maintenir l'engagement. Oliver souligne que 'derrière cette machine se trouve une entreprise qui essaie de vous soutirer des frais mensuels'.