로봇 안전 스타트업 Safeworld, 120억 시드 투자 유치
원제: Can Safeworld convince people that gen AI robots won’t hurt them?
왜 중요한가
휴머노이드 로봇 상용화가 가속되는 시점에 안전 평가 인프라 시장이 본격 형성되고 있음을 보여주는 신호탄이다.
Carnegie Mellon 대학 Safe AI Lab 소장 Ding Zhao 박사가 공동 창업한 로봇 안전 평가 스타트업 Safeworld가 2026년 10월 5일 스텔스 모드를 해제하며 Shine Capital과 a16z Speedrun 주도로 1,200만 달러(약 160억 원) 이상의 시드 라운드를 완료했다. 이 회사는 생성형 AI 기반 로봇의 안전성을 시뮬레이션으로 평가하는 솔루션을 제공한다.
생성형 AI가 로봇 제어 시스템의 핵심으로 부상하면서 예측 불가능성이라는 새로운 위험이 등장했다. 전통적인 알고리즘과 달리 확률론적으로 작동하는 AI 모델은 어떻게 안전을 보장할 수 있을까. Safeworld는 바로 이 질문에서 출발한다.
창업자 Zhao 박사는 "안전 과제는 두 가지로 나뉜다. 첫째는 확률적 시스템의 리스크를 어떻게 인수하느냐는 고급 생성형 AI 평가 문제이고, 둘째는 신뢰의 문제다. 로봇을 배포하려면 두 가지 모두 필요하다"고 설명했다.
Safeworld의 핵심 기술은 Genesis나 MuJoCo 같은 물리 시뮬레이터 안에 실제 로봇 소프트웨어를 그대로 올려 수천 가지 인간 모델 시나리오를 돌리는 것이다. 공동창업자 Kyle Wong은 "공장 내 사각지대에서 로봇이 박스를 든 작업자를 감지할 수 있는지, 정지 거리는 충분한지 같은 구체적인 상황을 시뮬레이션한다"고 밝혔다. 실제로 사람이 넘어지는 장면을 반복 재현하는 것은 현실에서 불가능하기 때문에 시뮬레이션의 필요성은 더욱 높다.
투자에 참여한 a16z Speedrun 파트너 Jonathan Lai는 "로봇이 가정에 들어와 아이들과 충돌 사고가 발생한 뒤에 안전 기준을 만들면 이미 늦다. 지금이 산업 안전 표준을 수립할 적기"라고 강조했다. 이번 라운드에는 Box Group, Carnegie Mellon University Endowment, Innovation Endeavors, SV Angel도 참여했다.