폭탄 짊어진 ‘킬러 로봇’, 보안 측면에서 살펴보기

美 샌프란시스코 경찰국(SFPD)은 무기화된 로봇을 사용하길 원하지만 전문가들은 로봇을 그렇게 사용하기엔 너무 위험하고 심각한 보안 결함이 있다고 지적했다.

지난 11월 29일(현지 시각) 미국 샌프란시스코 감독위원회는 긴급 상황에 제한해 무기를 장착한 원격 제어 로봇을 투입할 수 있도록 허용해달라는 샌프란시스코 경찰국(SFPD)의 제안을 표결에 부쳤고, 8대 3으로 해당 제안이 통과됐다. SFPD는 “타인의 생명을 위협하는 폭력적이고 위험하며 무장한 범죄 용의자를 제압하거나 혼란을 주기 위해 폭발물을 장착한 로봇을 투입할 것”이라고 밝혔다. 이 ‘킬러 로봇’ 사용 계획은 즉각 국제적 항의를 불러일으켰다.

또 이러한 살상용 로봇이 디지털적으로 얼마나 안전한지 또는 패치되지 않은 취약점 또는 악의적인 위협 행위자로 인해 비극적인 결과가 초래될 가능성은 없는지 등은 언론에서 언급된 바가 없다. 전문가들은 로봇이 안전하지 않으며, 악용될 수 있기 때문에 인간을 해칠 용도로 사용해서는 안 된다고 경고했다.
 

SFPD의 무기화된 로봇 제안
샌프란시스코 경찰국은 로봇이 극단적인 상황에서만 사용될 것이며, 소수의 고위 장교만이 사용을 승인할 수 있다고 주장했다. 또한 로봇이 자율적이지 않으며, (이를 위해) 훈련된 경찰관이 원격으로 조종할 것이라고 강조했다.

이 제안은 SFPD가 샌프란시스코의 군용 무기 사용과 관련된 정책에 문제를 제기해 한 문장이 삭제된 이후 나왔다. 감독위원회 규칙위원회 위원장 아론 페스킨이 제안했던, 삭제된 문장은 다음과 같다. ‘로봇은 사람을 대상으로 무력 사용되서는 안 된다.’ 이 문장의 삭제는 SFPD가 경찰국의 17개 로봇 중 하나를 개조하여 무력 제압에 쓸 수 있도록 하는 길을 열었다.

로봇의 ‘살인’ 가능성에 관한 대중의 격렬한 반발에 밀려 감독위원회는 일주일 만에 결정을 번복하고, 경찰의 원격 제어 로봇 사용을 금지했다. 감독관은 추가 검토를 위해 이사회의 규칙위원회에 보냈다고 밝혔다. 이는 향후 승인될 수도 있다는 가능성을 의미한다.

무력을 행사하는 로봇
군사 기관, 법 집행 기관은 폭발물 처리(EOD) 또는 폭탄 처리에 사용되는 기계 장치부터 시작해 수십 년 동안 로봇을 사용해 왔다. 예를 들면 지난 2016년 댈러스에서 알튼 스털링과 필란도 카스티야 총격 사건으로 인해 열린 위한 집회 도중 (총격이 발생해) 5명의 경찰관이 사망하자 댈러스 경찰국은 (폭발물을 조사하고 안전하게 처리할 목적으로 만들어진) 소형 폭탄 로봇을 현장에 배치했다. 경찰국은 이 로봇에 폭발물을 실어 용의자가 있는 장소로 이동해 폭파했고, 이 폭발로 저격수 마이카 자비에르 존슨은 그 자리에서 숨졌다. 이는 폭발물을 장착한 로봇이 용의자를 무력화했다고 알려진 최초의 사례다.

최근 경찰은 보스턴 다이내믹스(Boston Dynamics)의 4족 보행 로봇 ‘스팟(Spot)’을 포함하여 로봇 기술 애플리케이션을 확대했다. 매사추세츠주 경찰은 한시적으로 스팟을 ‘이동형 원격 감시 장치’로 사용해 경찰에게 의심스러운 장치나 범죄 용의자가 숨어 있을 수 있는 잠재적으로 위험한 장소의 이미지를 제공했다.

아울러 2022년 10월 오클랜드 경찰국(OPD)은 총 모양의 ‘타격 작동식 비전기 교란기(percussion actuated nonelectric disruptor)’ 또는 PAN 디스럽터(PAN disruptor)를 로봇에 장착하자고 제안했다. 이는 인간 조작자가 안전거리를 유지하는 동안 빈 산탄총 탄피 또는 가압수를 사용하여 의심되는 폭탄을 맞춘다(OPD는 궁극적으로는 사람을 대상으로 한 로봇의 공격적인 사용을 금지하는 것에 동의했다). 이 밖에 경찰이 위험하지 않도록 폭력적인 용의자를 무력화하고자 대치 현장에 제압용 화학 약품을 배치하거나 테이저건을 사용하도록 개발된 로봇도 있다.

로봇의 무기화가 서서히 진행되는 가운데, 6개의 주요 로봇 회사로 구성돼 있으며 보스턴 다이내믹스가 이끄는 그룹은 10월 초 범용 로봇이 무기화돼서는 안 된다고 주장하는 공개서한을 발표했다.

서한은 “원격 또는 자율적으로 작동하며, 대중이 광범위하게 쓸 수 있고, 사람들이 이전에는 접근하기 어려웠던 곳을 탐색할 수 있는 로봇에 무기를 추가하는 것은 새로운 위험과 심각한 윤리적 문제를 제기한다. 또한 로봇의 무기화된 애플리케이션은 (로봇이) 사회에 가져올 엄청난 혜택을 손상시켜 기술에 대한 대중의 신뢰를 무너뜨릴 것이다. 이러한 이유로 첨단 이동성 범용 로봇의 무기화를 지지하지 않는다”라고 밝혔다. 

로봇은 안전하지 않다
군사, 산업, 의료 환경에서 로봇의 보급이 증가하면서 ‘로봇의 보안’에 관한 많은 연구가 이뤄졌다. 요르단의 학술 연구진은 특정 공격을 수행하기 위한 공격 도구를 개발했고, 피플봇(PeopleBot)이라는 로봇 플랫폼의 보안을 뚫고 디도스(DDoS) 공격을 시작했으며 민감한 데이터를 훔치는 데 성공했다.

IO액티브(IOActive)의 연구진은 시장에서 구매 가능한 인기 있는 가정용, 비즈니스용, 산업용 로봇을 해킹하려고 시도했다. 여러 공급업체의 여러 로봇에서 중요한 사이버 보안 문제를 발견했으며, 현재의 로봇 기술이 안전하지 않고 공격에 취약하다는 결론을 내렸다.

트렌드마이크로(Trend Micro) 연구진은 로봇이 어느 정도까지 손상될 수 있는지 조사했다. 보고서에 따르면 조사 대상 기계에서는 오래된 소프트웨어, 취약한 운영체제(OS) 및 라이브러리, 취약한 인증 시스템, 너무나 단순하고 변경 가능한 자격 증명이 발견됐다. 또 공용 IP 주소에 상주하는 수만 개의 산업용 기기를 포착했으며, 이에 공격자가 액세스하여 해킹할 수 있는 위험이 크다고 지적했다.

로봇 보안 회사 앨리어스 로보틱스(Alias Robotics)의 설립자 빅토르 마요랄 빌체스는 로봇 해킹 매뉴얼(The Robot Hacking Manual)에서 “로봇은 안전하지 않은 상태로 배송된다. 어떤 경우에는 완전히 보호되지 않은 상태로 배송된다. 로봇의 방어 보안 메커니즘은 아직 초기 단계에 있으며, 일반적으로 로봇 공급업체가 적시에 책임을 지지 않기 때문에 제로데이 노출 기간이 평균 몇 년으로 연장된다”라고 주장했다. 

이어 “로봇은 몇 초 만에 악의적인 행위자에 의해 물리적 또는 원격으로 손상될 수 있다. 무기화되는 경우 이러한 시스템의 통제력을 잃는다는 건 악의적인 행위자에게 원격 제어되고, 잠재적으로 해악을 초래할 수 있는 로봇에 대한 권한을 주는 것을 의미한다. 샌프란시스코 시민에게 이 로봇들이 안전하지 않기 때문에 안전하지 않다는 분명한 메시지를 보내야 한다”라고 말했다. 

올해 초 의료 IoT 보안 회사 사이네리오(Cynerio)의 연구진은 병원 로봇에서 원격 공격자가 로봇과 온라인 콘솔을 제어할 수 있게 만드는 5가지 치명적인 제로데이 취약점 ‘지킬봇:5(JekyllBot:5)’을 발견했다고 보고했다. 사이네리오의 사이버 네트워크 애널리틱스 책임자 애셔 브라스는 “로봇은 다양한 목적으로 사용할 수 있는 매우 유용한 도구다”라면서, “하지만 로봇은 양날의 검과도 같다. 사이버 보안 관점에서 볼 때 매우 크고 무서운 단점이 있다”라고 언급했다. 

사이네리오(Cynerio)의 사이버 보안 에반젤리스트 채드 홈즈는 “승인하거나 채택하기 위해 투표를 하기 앞서, 이해와 실제 위험을 이해하는 것 사이에 실질적인 단절이 있다”라고 지적했다. 

‘로봇 보안’을 개선하기 위한 단계
마요랄 빌체스는 SFPD의 군사용 인벤토리에 나열된 특정 로봇(예: 로봇 회사 리모텍(REMOTEC), 키네틱(QinetiQ), 아이로봇(iRobot), 레콘 로보틱스(Recon Robotics)에서 만든 기계)에 대해 이러한 시스템 중 많은 부분이 기존의 ‘무인 시스템용 공동 아키텍처(Joint Architecture for Unmanned Systems; JAUS)’ 국제 표준에 기반을 두고 있다고 언급했다. “보안 위협 측면에서 최신 버전이 아니다. 사이버 보안에 관한 대화가 충분히 이뤄지지 않고 있다”라고 그는 덧붙였다. 

그에 따르면 더욱더 안전한 로봇을 위한 더 나은 선택은 더 현대적인 ‘ROS 2(Robot Operating System2)’를 사용하는 것이다. ROS 2는 사이버 보안에 큰 비중을 두고 있는 대체 로봇 운영체제다. 

문제는 기기 제조뿐만 아니라 기기가 현장에 배치되는 방식과 이를 배포 및 사용하는 운영자다. 홈즈는 “로봇 자체, 개발 방법, 보안 방법은 물론이고 배포 및 사용 방법 역시 중요하다. 아무리 많은 경찰과 함께 현장에 투입되더라도 적절하게 배치되지 않으면 여전히 공격, 탈취 등에 취약할 수 있다. 따라서 제조뿐만 아니라 누가 사용하는지도 중요하다”라고 전했다. 

마요랄 빌체스는 다음의 4가지가 현장에서 로봇의 보안을 개선하는 데 큰 도움이 될 수 있다고 권고했다.
 

(1) 로봇 시스템을 관리하는 기관(또는 외부 컨설턴트)은 적절하게 업데이트된 위협 모델을 유지관리해야 하며, 보안 연구에서 나온 새 위험(새 결함)의 위협 환경을 주기적으로 평가해야 한다. (2) 독립적인 로봇공학 및 보안 전문가는 정기적으로 이러한 각 시스템에 철저한 보안 테스트를 수행해야 한다(공동 및 독립적으로). (3) 각 시스템에는 모든 사건을 법의학적으로 기록하기 위해 변조 방지 블랙박스 등의 하위 시스템이 포함돼야 하며, 각 미션 후에 이를 분석해야 한다.  (4) 각 시스템에는 필요하다면 로봇의 작동을 멈추는 원격 킬 스위치가 포함돼야 한다.

하지만 현재 경찰이 킬러 로봇을 사용하는 것은 ‘끔찍한 실수’가 될 것이라고 마요랄 빌체스는 언급했다. 그는 “윤리적으로나 기술적으로나 잘못된 결정이다. 로봇공학은 특히 사이버 보안 관점에서 아직 성숙하지 않다”라고 전했다. 

한편 법 집행 기관에서 살상 장비를 갖춘 로봇을 사용하는 것이 나쁜 생각이라는 데 모두가 동의하는 건 아니다. 자동화발전협회(Association for Advancing Automation)의 회장 제프 번스타인은 “경찰을 위험에 빠뜨리지 않고 범죄자가 더 많은 사람을 죽이지 못하도록 안전하게 막을 수 있는 도구가 있고, 장치를 폭발시킬지에 대한 결정은 사람들이 내린다면... 개인적으로는 그것에 찬성한다”라면서, “만약 사람이 아닌 기계가 결정을 내린다면 지지하지 않을 것이다. 그것이 바로 다른 점이다”라고 말했다(소속 협회의 입장은 아니라고 그는 강조했다). ciokr@idg.co.kr