로봇 조작 AI에 '되돌리기' 안전장치 추가

비전-언어-행동(VLA) 모델은 로봇이 카메라 영상과 언어 지시를 이해해 물리적 동작을 계획하도록 하는 인공지능 시스템으로, 범용 로봇 조작 분야에서 큰 기대를 받고 있습니다. 그러나 arXiv(cs.RO)에 게재된 새 논문에 따르면, 긴 작업 과정에서는 상태 추정이나 제어에서 발생하는 작은 오차가 충돌이나 물체 낙하 같은 되돌릴 수 없는 실패로 이어질 수 있어 안정성이 취약하다는 문제가 남아 있습니다.

연구팀은 이를 해결하기 위해 'SafeLoop'라는 시스템을 제안했습니다. 이는 기존 VLA 모델의 내부 파라미터를 전혀 바꾸지 않고 외부에서 위험 예측과 롤백 기반 복구 기능을 덧붙이는 '비침습적 외부 래퍼(wrapper)'라고 설명됩니다. SafeLoop는 카메라 영상과 고유수용감각(로봇이 자신의 관절 위치·움직임을 스스로 감지하는 정보)을 이용해 별도의 위험 예측기를 학습시킵니다. 이 예측기는 본체 충돌과 물체 조작 실패 각각에 대한 발생 확률과 위험 발생까지 남은 시간, 총 네 가지 값을 출력합니다.

이어 경량 제어기가 예측된 위험도에 따라 세 가지 행동 중 하나를 선택합니다. 정상적으로 동작을 이어가는 '노업(noop)', 현재 상태를 안전 체크포인트로 저장하는 '레코드(record)', 관절 공간에서 최근의 안전한 지점으로 후퇴하는 '롤백(rollback)'입니다. 롤백이 실행되면 시스템은 원래의 VLA 정책에 다시 질의하며, 이 과정에서 더 안전한 대체 동작이 생성될 수 있습니다.

연구팀은 LIBERO 벤치마크의 24개 과제(과제별 16개 무작위 시드)와 실제 로봇을 이용한 3개 과제(각 25회 시행)에서 SafeLoop을 평가했습니다. 논문에 따르면 SafeLoop은 다른 대안 방법들에 비해 안전성과 작업 성공률 사이에서 더 나은 균형을 달성했으며, 원래 기반 정책이 유지하던 제어 비율과 작업 성공률을 그대로 보존하면서도 위험 상황을 약 70% 줄이는 데 성공했습니다.

이 논문은 저자 Zeyu Lou 명의로 제출되었으며, 2026년 IEEE/RSJ 국제 지능형 로봇 및 시스템 컨퍼런스(IROS 2026)에 채택되었습니다. 연구팀은 프로젝트 코드를 공개할 예정이라고 밝혔으나, 공개된 초록에는 구체적인 저장소 링크가 포함되어 있지 않았습니다.

이번 연구는 점점 더 강력해지지만 내부 동작을 파악하기 어려운 파운데이션 모델을 처음부터 다시 학습시키는 대신, 외부에서 안전 계층을 덧씌우는 방식에 대한 로봇공학계의 관심을 잘 보여줍니다. 이러한 접근법은 향후 VLA 시스템이 더 커지고 널리 쓰이더라도 비교적 손쉽게 안전장치를 추가할 수 있는 방법이 될 수 있습니다.