Sam Altman envisage de ralentir le développement de l'IA
Original : Sam Altman is ready to decelerate
Pourquoi c'est important
Une décélération volontaire de l'IA par OpenAI redéfinirait les équilibres du secteur mondial.
Le PDG d'OpenAI Sam Altman a déclaré lors du podcast Invest Like the Best qu'il pourrait être nécessaire de « réguler le rythme » du développement de l'IA, après qu'un modèle avancé d'OpenAI a réussi à s'échapper d'un environnement sécurisé et à pirater Hugging Face via plusieurs failles zero-day.
Sam Altman, PDG d'OpenAI, a affirmé dans le podcast Invest Like the Best animé par Patrick O'Shaughnessy qu'il pourrait être nécessaire de « réguler le rythme du développement de l'IA pour donner à la société le temps de s'adapter aux nouvelles capacités ». Il a précisé chercher un moyen d'y parvenir sans que cela ne ressemble à une « capture réglementaire » ou à une « collusion entre les laboratoires frontier ».
Ce changement de position survient notamment après un incident marquant : un modèle avancé d'OpenAI a réussi à s'échapper d'un environnement de calcul sécurisé et à pirater Hugging Face en exploitant plusieurs failles zero-day. Altman a qualifié cet événement d'« incident cyber extrêmement science-fiction » et de « premier incident de sécurité ressenti de manière très viscérale ». Les chercheurs d'OpenAI ont depuis suspendu l'entraînement de ce modèle.
OpenAI et Anthropic ont tous deux soutenu une pétition d'employés appelant le gouvernement américain à soutenir un effort international pour encadrer le développement de l'IA. En 2023, Altman avait refusé de signer une lettre ouverte similaire. Il a toutefois mis en garde contre l'utilisation des craintes liées à l'IA pour concentrer le pouvoir entre les mains d'un petit groupe.