엔비디아, 로봇 AI 안전 플랫폼 공개

원문 요약

출처: 로봇신문 · 2026년 9월 29일 보도

보도에 따르면 엔비디아는 28일 AI 에이전트 개발 및 배포 과정의 안전과 보안을 강화하는 '엔비디아 오픈 에이전트 안전 플랫폼'을 공개했습니다. 이 플랫폼은 물리적 환경에서 작동하는 피지컬 AI와 로봇 분야에 활용될 것으로 기대됩니다. 엔비디아는 앤트로픽, 스케일 AI, 세일즈포스, SAP, 마이크로소프트, 지멘스, IBM, 시스코 등 100곳 이상의 기업과 조직이 이 생태계에 참여하고 있다고 밝혔습니다.

로봇 분야에서는 피규어 AI, 게코 로보틱스, 스킬드 AI가 참여하고 있습니다. 엔비디아는 이들 기업과 협력해 AI 에이전트가 로봇을 제어할 때 필요한 안전 통제 기능을 강화할 계획입니다. 구체적으로 오픈소스 소프트웨어 '오픈쉘(OpenShell)'을 로봇 시스템에 적용하여 AI가 사람이 정한 권한과 행동 범위를 벗어나지 않도록 통제하는 방안을 개발합니다.

젠슨 황 엔비디아 CEO는 AI의 잠재력을 실현하려면 안전 문제를 해결해야 한다고 강조하며, 안전과 보안에는 풀스택 엔지니어링이 필요하다고 말했습니다. 게코 로보틱스 제이크 루사리안 CEO는 AI에 대한 통제력 상실이 불가피하다는 생각은 위험한 변명이며, 인간이 설정한 경계 안에서 AI가 작동하도록 안전장치를 구축할 책임이 있다고 밝혔습니다.

맥락

기존 로봇은 정해진 프로그램과 작업 범위 내에서 움직이는 경우가 많았습니다. 그러나 최근 생성형 AI와 대규모 모델을 기반으로 주변 환경을 인식하고 작업을 판단하는 로봇이 등장하면서 로봇이 수행할 수 있는 작업이 크게 늘어났습니다. 이에 따라 AI가 어떤 행동을 할 수 있는지 명확하게 통제하는 문제가 중요해지고 있습니다. 엔비디아가 로봇 기업들과의 협력을 강조하는 배경에는 휴머노이드와 자율 로봇의 AI 활용이 빠르게 확대되고 있기 때문이라고 볼 수 있습니다.

로봇의 해석

이번 플랫폼 공개는 물리적 AI의 안전이 단순한 기술적 이슈를 넘어 산업 표준으로 자리매김하려는 시도라고 해석됩니다. 피규어 AI와 스킬드 AI 등 주요 로봇 기업들이 참여했다는 점은 안전 기능이 로봇의 상용화에서 핵심 경쟁력이 될 수 있음을 시사합니다. 다만, 오픈쉘을 통해 AI의 행동을 통제하는 방식이 실제 예측 불가능한 환경에서 얼마나 효과적으로 작동할지는 아직 확인되지 않았습니다. 특히 다양한 로봇 플랫폼 간의 상호운용성과 엣지 케이스 처리 능력이 향후 중요한 관전 포인트가 될 것입니다.