Safeworld lève 12M$ pour sécuriser les robots IA
Original : Can Safeworld convince people that gen AI robots won’t hurt them?
Pourquoi c'est important
Les robots industriels et humanoïdes se multiplient ; l'absence de standards de sécurité pour l'IA générative représente un risque systémique.
La startup Safeworld sort de sa phase de discrétion avec un tour de table de plus de 12 millions de dollars pour évaluer la sécurité des robots pilotés par IA générative, via des simulations à grande échelle.
Fondée par le Dr Ding Zhao (directeur du Safe AI Lab à Carnegie Mellon University), Kyle Wong et Simo Rachidi, Safeworld s'attaque à un problème précis : les robots contrôlés par IA générative sont probabilistes, donc imprévisibles. Contrairement aux algorithmes traditionnels, leurs comportements ne peuvent pas être garantis à l'avance.
Le tour de table dépasse 12 millions de dollars, mené par Shine Capital et a16z Speedrun, avec la participation de Box Group, du fonds de dotation de Carnegie Mellon, d'Innovation Endeavors et de SV Angel. Jonathan Lai, associé chez a16z Speedrun, résume l'urgence : « Le moment de construire un standard de sécurité industriel, c'est maintenant, pendant que les robots sont encore en cours de conception. Attendre qu'ils heurtent des enfants dans les foyers, c'est bien trop tard. »
L'approche de Safeworld repose sur des simulations réalistes dans des environnements comme Genesis ou MuJoCo. Le logiciel réel du robot y est déployé, confronté à des milliers de scénarios impliquant des modèles humains — une personne qui chute, un angle mort en usine, un opérateur portant des cartons. L'objectif : quantifier le risque avant tout déploiement physique, là où les tests humains restent dangereux ou impraticables.