Safeworld Raih $12 Juta untuk Keamanan Robot AI
Judul asli: Can Safeworld convince people that gen AI robots won’t hurt them?
Mengapa Ini Penting
Standar keamanan robot gen AI perlu dibentuk sebelum adopsi massal meluas.
Safeworld keluar dari stealth dengan seed funding $12 juta dipimpin Shine Capital dan a16z Speedrun, untuk mengevaluasi keamanan robot berbasis generative AI di simulasi.
Tren terbaru di industri robotik adalah menyerahkan kendali robot kepada model generative AI — tapi arsitektur ini tidak seprediktabel algoritma tradisional. Inilah celah yang ingin ditutup Safeworld.
Didirikan oleh Dr. Ding Zhao (direktur Safe AI Lab di Carnegie Mellon University), eksekutif startup Kyle Wong, dan ML engineer Simo Rachidi, Safeworld mengkhususkan diri dalam evaluasi sistem kendali robot lewat simulasi yang diisi model manusia realistis. Mirip tantangan yang dihadapi Tesla atau Wayve — tapi lebih kompleks, karena robot beroperasi di lingkungan tidak terstruktur dengan standar keamanan berbeda di setiap fasilitas.
"Bagaimana cara menjamin risiko dari sistem probabilistik? Itulah tantangan sebenarnya," ujar Zhao. Safeworld membangun replika digital lingkungan kerja — misalnya tikungan buta di pabrik — menggunakan platform seperti Genesis atau MuJoCo, lalu menjalankan ribuan skenario: robot bertemu manusia yang membawa kotak, atau manusia yang tiba-tiba tersandung.
Putaran seed senilai lebih dari $12 juta ini juga didukung Box Group, Carnegie Mellon University Endowment, Innovation Endeavors, dan SV Angel. Partner a16z Speedrun, Jonathan Lai, menegaskan: "Saat robot sudah ada di rumah tangga dan menabrak anak-anak, itu sudah terlambat."