Anthropic affirme que son succès est clé pour l'IA sûre
Original : Anthropic Thinks Its Own Success Is Key to Making AI Safe
Pourquoi c'est important
Anthropic définit un modèle d'influence technologique où la puissance concentrée est présentée comme nécessaire pour la responsabilité en IA.
Anthropic, valorisée à près d'un billion de dollars, accumule rapidement puissance et influence dans le secteur de l'IA. L'entreprise justifie cette stratégie en arguant qu'elle doit rester à la frontière technologique pour contrôler les risques existentiels liés à l'IA.
Anthropic, fondée en 2021 par d'anciens employés d'OpenAI, affirme qu'il existe une contradiction apparente entre son message d'avertissement sur les dangers de l'IA et sa position de développeur majeur de modèles d'IA de pointe. Selon les dirigeants et anciens employés interrogés, cette stratégie répond à deux convictions fondamentales : l'IA est la technologie la plus transformatrice de l'histoire humaine et son avènement est inévitable. Pour Anthropic, l'accumulation de pouvoir—capital, capacités informatiques, talents en recherche et influence politique—n'est pas une fin en soi, mais le prix à payer pour remplir sa mission de « garantir une transition sûre vers l'IA transformatrice ». Helen Toner, directrice exécutive du Center for Security and Emerging Technology de Georgetown, explique cette vision par une analogie : l'IA puissante est comme une forêt remplie de trésors magiques et de monstres dangereux. Anthropic souhaite s'enfoncer plus loin que quiconque dans cette forêt tout en investissant massivement pour dompter les monstres. Le PDG Dario Amodei a déclaré que l'entreprise doit « être compétitive et diriger l'industrie » tout en « faisant les choses en toute sécurité », car cette « force gravitationnelle » exercée permet de façonner les safeguards raisonnables.