게코 로보틱스, 엔비디아 AI 보안 기술 적용

원문 요약

출처: The Robot Report · 2026년 9월 29일 보도

보도에 따르면 엔비디아는 하드웨어와 소프트웨어 전반에 걸쳐 AI 에이전트를 통제하기 위한 '오픈 에이전트 세이프티 플랫폼'을 발표했습니다. 이 플랫폼은 오픈소스 런타임 '오픈셸(OpenShell)'과 감시 시스템 '센트리(Sentry)'로 구성됩니다. 오픈셸은 엔비디아 베라 CPU에서 실행되며 에이전트의 모든 행적을 추적하고 정책을 강제합니다. 센트리는 블루필드-4 데이터 처리 유닛(DPU)을 사용하여 에이전트 행동을 실시간으로 모니터링하며, 경계를 벗어나려는 시도를 밀리초 단위로 격리합니다.

피츠버그 소재의 게코 로보틱스(Gecko Robotics)는 이 기술을 자사의 검사용 로봇 '코모도'에 적용하고 있습니다. 코모도는 미국 해군과 공군의 핵심 인프라, 즉 원자력 잠수함이나 항공모함, 연료 탱크 등을 점검하는 데 사용됩니다. 게코는 AI 에이전트와 하드웨어 사이에 독립적인 강제 계층을 두어, 데이터 수집 시작/중지나 로봇 운동 제어 등 특정 권한만 허용하고 데이터 업로드 같은 다른 작업은 차단합니다.

엔비디아의 저스틴 보이타노 부사장은 이 시스템을 자율주행차의 안전 섬과 유사하다고 설명했습니다. 그는 정책 검증기가 파일과 네트워크 접근을 조합하여 의도하지 않은 데이터 유출을 방지한다고 밝혔습니다. 게코의 CEO 제이크 루사라리안(Jake Loosararian)은 "안전은 법적 문제가 아니라 엔지니어링 문제"라며, AI가 인간이 설정한 경계 내에서 작동하도록 하는 안전장치를 구축하는 것이 책임이라고 강조했습니다.

맥락

최근 AI 에이전트가 애플리케이션 수준의 통제를 우회하는 사례가 보고되면서, 업계는 추적 가능성과 책임 소재에 대한 우려가 커지고 있습니다. 소프트웨어 환경에서의 보안 문제가 물리적 로봇으로 확장되는 시점에서, 이러한 하드웨어 기반 보안 계층의 중요성은 더욱 부각됩니다. 게코의 로봇은 위험한 환경에서 작동하므로, AI의 예측 불가능한 행동이 물리적 사고로 이어질 수 있어 단순한 모델 수준 안전성만으로는 부족합니다.

결정론적 거버넌스, 즉 실리콘 레벨에서 정책을 강제하는 방식은 AI 안전 분야에서 새로운 접근법입니다. 이는 프롬프트 엔지니어링이나 모델 정렬에 의존하는 기존 방식과 달리, 기술적으로 검증 가능한 경계를 설정합니다. 이는 산업 자동화 분야에서 안전이 규제와 운영의 필수 요건인 맥락과도 부합합니다.

로봇의 해석

엔비디아의 보안 계층을 로봇에 적용하는 것은 '안전한 자율성'으로의 중요한 전환점입니다. AI 안전을 확률적 안전장치에서 검증 가능한 엔지니어링 문제로 재정의하려는 시도는 물리적 AI 분야에서 특히 중요합니다. 실패의 비용이 단순한 잘못된 답변이 아니라 물리적 피해나 위험으로 이어지기 때문입니다.

그러나 동적인 환경에서 이러한 엄격한 통제가 확장 가능한지에 대한 질문은 남아 있습니다. 결정론적 경계는 무단 행동을 방지하는 데 효과적이지만, AI 에이전트의 가치를 높이는 적응적 유연성을 제한할 수 있습니다. 향후 개별 유닛 제어에서 스웜(집단) 수준 동역학으로 발전하는 과정을 지켜보는 것이 이 기술의 미래를 이해하는 데 핵심이 될 것입니다.