Expert d'Elon Musk craint une course à l'AGI au procès OpenAI
Original : Elon Musk’s only AI expert witness at the OpenAI trial fears an AGI arms race
Pourquoi c'est important
Illustre les tensions entre développement commercial rapide et sécurité IA
Stuart Russell, professeur à UC Berkeley et seul témoin expert IA de Musk au procès OpenAI, a témoigné sur les risques de l'IA et la tension entre développement de l'AGI et sécurité, dans le cadre du procès visant à fermer l'activité commerciale d'OpenAI.
Stuart Russell, professeur d'informatique à UC Berkeley, a témoigné comme unique expert technique d'Elon Musk dans son procès contre OpenAI. Russell, co-signataire d'une lettre de mars 2023 appelant à une pause de six mois dans la recherche IA (également signée par Musk malgré le lancement de xAI), a expliqué aux jurés les risques liés au développement de l'IA, des menaces cybersécuritaires aux problèmes de désalignement et la nature "winner-take-all" du développement de l'AGI. Il a souligné la tension entre la poursuite de l'AGI et la sécurité. Ses préoccupations plus larges sur les menaces existentielles n'ont pas pu être présentées après objections des avocats d'OpenAI.