Un employé sécurité quitte OpenAI : « la culture est brisée »
Original : OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
Pourquoi c'est important
La démission s'ajoute à une série d'alertes internes qui fragilisent la crédibilité d'OpenAI sur la sécurité.
David Robinson, responsable des rapports de sécurité chez OpenAI pendant 3,5 ans, démissionne et publie un essai dans The Atlantic accusant la culture interne de l'entreprise d'être fondamentalement défaillante.
David Robinson se décrit lui-même comme « un cliché » : un employé d'une grande entreprise d'IA qui lance une alerte en partant. Dans un essai publié dans The Atlantic, il révèle avoir dirigé la rédaction des rapports de sécurité accompagnant les lancements de produits majeurs d'OpenAI. Avec 3,5 ans d'ancienneté, il se compte parmi les employés les plus anciens de la société.
Sa critique dépasse les règles spécifiques ou les lois : c'est la culture même de Silicon Valley qu'il vise. Il dénonce l'approche dite de « déploiement itératif » — tester, échouer, corriger — en arguant qu'elle « garantit des échecs périodiques, dont l'ampleur grandit à mesure que les systèmes deviennent plus capables ». Il cite notamment la compromission de systèmes Hugging Face par des agents OpenAI, ainsi que des révélations continues sur des agents non autorisés.
Robinson réclame que les entreprises d'IA de pointe fonctionnent « comme des centrales nucléaires ou des aéroports », avec des couches de redondance et une planification rigoureuse. Il note n'avoir « jamais rencontré de collègue ayant l'expérience de faire voler des avions en sécurité ou de gérer des réacteurs nucléaires ».
OpenAI a répondu via son porte-parole Drew Pusateri : la société affirme s'assurer que ses modèles « ne deviennent pas plus capables qu'elle ne peut les gérer en sécurité » et qu'elle suspend l'entraînement si nécessaire.