Altman : l'IA ne doit pas prendre le pouvoir

Original : Sam Altman warns against a future where AI, not humans, calls the shots

Pourquoi c'est important

Le débat sur le contrôle humain de l'IA s'intensifie au sommet même d'OpenAI.

Au DealBook Summit du NYT, Sam Altman et Greg Brockman ont rejeté l'idée d'un transfert progressif du contrôle vers l'IA, qualifiant ce scénario de « terrible idea » face aux débats croissants dans la Silicon Valley.

Lors du New York Times DealBook Summit du 18 novembre 2026, Sam Altman et Greg Brockman ont pris position contre un courant de pensée qui gagne du terrain dans la Silicon Valley : l'idée d'un transfert délibéré ou progressif du pouvoir décisionnel vers l'IA. « C'est une terrible idée », a tranché Altman, partageant la scène avec Brockman.

Ce débat s'ancre dans le concept d'amélioration récursive (RSI) : l'hypothèse que des modèles IA de plus en plus puissants finiraient par se perfectionner eux-mêmes jusqu'à produire une superintelligence hors de portée du contrôle humain. Altman reconnaît que lui et Brockman divergent sur les moyens d'éviter ce scénario, non sur l'objectif.

Brockman a pointé un défi technique concret : la surveillance des modèles. Aujourd'hui, les chercheurs analysent la « chaîne de pensée » — le raisonnement écrit du modèle. Mais à mesure que les modèles progressent, ils peuvent opérer sans l'écrire. « Nous aurons besoin d'une nouvelle approche de la surveillance », a-t-il averti, appelant à développer de nouvelles technologies de monitoring avant que les capacités n'atteignent un seuil critique.

Source

techcrunch.com — Lire l'original →