Safeworld: AI रोबोट सुरक्षा की नई कोशिश
मूल शीर्षक: Can Safeworld convince people that gen AI robots won’t hurt them?
यह क्यों महत्वपूर्ण है
Generative AI रोबोट के लिए safety certification का कोई मानक नहीं है; Safeworld इस खालीपन को भरने की पहली गंभीर कोशिश है।
Carnegie Mellon के Dr. Ding Zhao, Kyle Wong और Simo Rachidi ने Safeworld स्थापित की है। कंपनी ने $12 मिलियन का seed round जुटाया, जिसे Shine Capital और a16z Speedrun ने lead किया।
Generative AI आधारित रोबोट तेज़ी से फैल रहे हैं, लेकिन इनका व्यवहार पारंपरिक algorithms जितना अनुमानित नहीं होता। यही समस्या Safeworld हल करना चाहती है। कंपनी आज stealth से बाहर आई है।
Safeworld का तरीका सीधा है: किसी भी रोबोट के real software को Genesis या MuJoCo जैसे simulation platforms में चलाया जाता है, जहाँ हज़ारों परिदृश्यों में realistic मानव मॉडल रोबोट के सामने आते हैं। फिसलना, बक्से उठाना, blind corners — हर स्थिति का परीक्षण होता है।
Dr. Zhao के अनुसार, दो बड़ी चुनौतियाँ हैं: probabilistic system का जोखिम मापना और उपयोगकर्ताओं का भरोसा जीतना। Wong ने बताया कि हर फैक्ट्री में सुरक्षा मानक अलग होते हैं — एक blind corner पर रोबोट की गति और stopping distance स्थान के हिसाब से तय करनी होती है।
a16z Speedrun के partner Jonathan Lai ने कहा, "जब तक रोबोट घरों में बच्चों से टकराने लगें, तब सुरक्षा मानक बनाना बहुत देर हो चुकी होगी।" Safeworld में Box Group, Carnegie Mellon University Endowment, Innovation Endeavors और SV Angel ने भी निवेश किया है।