Safeworld, 생성형 AI 로봇 안전 검증에 1200만 달러 유치

원문 요약

출처: TechCrunch Robotics · 2026년 10월 5일 보도

보도에 따르면 Safeworld는 1200만 달러 이상의 시드 라운드를 유치하며 스텔스 모드를 종료했습니다. 이 회사는 카네기 멜론 대학교 Safe AI 랩을 이끄는 딩 자오(Ding Zhao) 박사와 카일 웡(Kyle Wong), 시모 라치디(Simo Rachidi)가 공동 설립했습니다. 투자에는 Shine Capital과 a16z Speedrun이 리드했으며, Box Group, 카네기 멜론 대학교 기금, Innovation Endeavors, SV Angel이 참여했습니다.

Safeworld의 핵심 제품은 현실적인 인간 모델을 포함하는 시뮬레이션 환경에서 로봇 제어 시스템을 평가하는 플랫폼입니다. 생성형 AI 모델은 확률적이기 때문에 전통적인 수학적 검증만으로는 안전성을 보장하기 어렵습니다. 따라서 실제 로봇 소프트웨어를 구동하는 시뮬레이션을 통해 수천 개의 시나리오를 실행합니다. 이 시나리오에는 인간이 넘어지거나, 물건을 들고 있거나, 사각지대에서 로봇과 상호작용하는 등 다양한 엣지 케이스가 포함됩니다.

Safeworld는 현재 태양광 패널 설치 로봇의 AI 뇌를 개발하는 Gritt Robotics와 파트너십을 맺고 있습니다. Gritt의 CTO 비샬 두가르(Vishal Dugar)는 로봇 팔이 인간 작업자를 치지 않도록 보장하는 것은 방정식으로 증명하기 어렵고 경험적 테스트가 필요하다고 지적했습니다. 자오 박사는 산업 전반의 안전 표준을 확립하기 위해 제3자 검증이 필요하다고 주장합니다.

맥락

로봇공학에서 생성형 AI의 도입은 새로운 안전 문제를 제기했습니다. 결정론적 알고리즘과 달리 확률적 모델은 예측할 수 없는 출력을 생성할 수 있습니다. 이는 도로에서 예상치 못한 상황을 처리해야 하는 테슬라나 웨이브와 같은 자율주행 개발사와 유사한 도전 과제입니다. 그러나 로봇은 비정형 환경에서 작동하므로 안전 위험이 더 클 수 있습니다.

고해상도 시뮬레이션을 이용한 안전 테스트는 MuJoCo나 Genesis와 같은 도구를 통해 연구 커뮤니티에서 이미 이루어지고 있습니다. 그러나 Safeworld는 독립적인 제3자 서비스 제공자로서 포지셔닝하며, 자동차 안전을 검증하는 독립 테스트 기관과 유사한 역할을 수행하려 합니다. 이를 통해 로봇 제조업체가 규제 기관과 고객에게 안전성을 입증할 수 있는 표준화된 '안전 사례'를 창출하는 것을 목표로 합니다.

로봇의 해석

로봇공학에서 생성형 AI로의 전환은 유연성을 높이지만 안전 위험도 증가시킵니다. Safeworld의 접근법은 확률적 시스템을 형식적으로 검증할 수 없는 중요한 공백을 메우려 합니다. 시뮬레이션을 통해 엣지 케이스를 스트레스 테스트함으로써 실용적인 배포 경로를 제공합니다. 그러나 이 방법의 효과는 인간 모델의 충실도와 테스트 시나리오의 포괄성에 달려 있습니다. 시뮬레이션이 실제 인간의 예측 불가능성을 정확히 반영하지 못하면 안전 보장은 허상일 수 있습니다. 제3자 검증 모델이 로봇 배포의 표준 요구사항이 될지 지켜볼 필요가 있습니다.