2016.08.02

칼럼 | 자동화 기술에 자녀의 안전을 맡길 수 있는가?

Mike Elgan | Computerworld

자동화 기술이 유용하고 편리하다는 사실이 기계에게 책임을 넘겨도 된다는 것을 의미하지는 않는다.

아서 C 클라크의 1968년 SF명작 ‘2001: 스페이스 오디세이’에서 인류는 아무것도 배운 게 없을까? 이 영화에서 목성으로 임무 수행 중이던 우주인들은 우주선의 모든 기능을 제어하고 자동화하는 HAL 9000 인공지능 컴퓨터가 심각하게 오작동하기 시작했다는 것을 발견한다. 우주인들은 걱정하기 시작하고 HAL은 피해망상에 빠져 결국 우주선에 있는 모든 인간을 죽이게 된다.

오늘날 완전 자동화된 것들은 어떻게 사용되고 있을까? 사용자의 책임은 무엇일까? 로봇에게 통제권을 넘겨줄 수 있을까? 최근 뉴스를 보면 자동화된 제품과 기능을 사용하는데 있어서 몇몇 사람들이 실수를 저지르고 있는 것으로 보인다.



펫넷 실패
펫넷(Petnet)은 149달러짜리 클라우드-제어형 스마트 사료 공급 기기다. 강아지와 고양이에게 시간에 맞춰 자동으로 먹이를 줄 수 있도록 고안됐다. 이 기계는 가정의 와이파이 네트워크를 통해 인터넷에 연결되고 사용자는 iOS 앱으로 이 기계를 제어할 수 있다. 심지어는 수동으로 특식을 줄 수도 있다. 애완동물을 기계에 맡겨두는 죄책감에서 조금 벗어날 수 있는 셈이다.

펫넷은 또한 사료 배달 서비스와도 연동되는데, 아마존의 대시(Dash) 프로그램을 통해 자동화가 가능하다. 매번 사료를 주문하지 않아도 이 기계가 알아서 해준다. (그렇다. 강아지 산책 로봇과 강아지 돌보는 기계가 시장에 출시되기만 한다면 이제 애완동물로부터 완전 해방될 수 있다!)

게다가 펫넷은 애완동물의 사료와 물 소비량을 측정해 비만을 방지해주기도 한다. 정말이지 훌륭하지 않은가?

하지만 펫넷 클라우드 동작에 필수적인 구글-프로비저닝 서비스가 중단된다면 이야기가 달라진다. 지금까지 사례를 보면 10% 정도의 펫넷 기계들이 10시간 가량 정상 작동을 중단했다. 비록 이 회사는 자동화된 먹이주기 스케줄에는 영향이 없었다고 주장하지만 이용자들은 수동으로 먹이를 주거나 일정을 변경할 수가 없었고 몇몇 동물들은 굶었다.

펫넷은 고객들에게 이메일을 보내면서 “애완동물에게 수동으로 먹이를 주세요”라고 조언했다. 하지만 펫넷에 의존한 많은 고객들은 여름 휴가기간 동안 펫넷에게 사료 공급을 맡기고 있다.

네스트 온도계 고장
1세대 주류 사물인터넷 기기 중 하나인 구글의 네스트 학습 온도계(Nest Learning Thermostat)는 자동으로 집안 온도를 조정하는 기기다.

지난주 전국적인 무더위 속에서 몇몇 네스트 온도계들이 고장났다. 이 회사는 “네스트 온도계와 네스트 프로텍트(Nest Protects)의 일부”가 오프라인 상태인 것은 사실이지만 여전히 동작 중이라고 발표했다.

지난 1월에는 네스트 온도계의 배터리를 소모시켜 기능 중단을 초래한 광범위한 결함이 있었다. 게다가 이 사고는 미국 동부지역 한파 속에 발생했으며 그 결과 많은 네스트 고객들이 추위 속에서 떨어야 했다.

네스트의 자동 온도 조절 기능 고장으로 인한 과냉방 과난방으로 누가 죽거나 다쳤다는 이야기는 듣지 못했다. 그러나 비슷한 사고는 우리의 자동화된 미래에 충분히 발생할 수 있으며, 그 때는 온도 조절보다 심각한 무엇일 수 있다. 또 더 많은 온도계들이 네스트-같은 자동화된 시스템으로 변모한다면 장애인, 노인, 환자들을 위협할 수 있다.

테슬라 자동주행 교통사고
테슬라(Tesla)의 지난 5월 사고는 테슬라의 오토파일럿(Autopilot) 기능에 의문을 제기했다. 사고 차량은 트랙터 트레일러 측면에 충돌할 때 자동주행 모드로 달리고 있었고 결국 운전자가 사망했다. 테슬라는 1억 3,000만 마일의 자동주행 운행도중 발생한 것으로 파악된 첫 번째 사망사고라고 주장했다. 또 미국 교통 안전국(US National Transportraoin Safety Board)에 따르면 그 차량은 65마일 제한속도 도로에서 74마일로 달리고 있었다.

몇몇 테슬라 자동차에는 베타인 자동 핸들링(Autosteer) 모드, 자동 차선 변경(Auto Lane Change) 기능, 자동 비상 스티어링(Automatic Emergency Steering)과 측면 충돌 경고(Side Collision Warning) 시스템 그리고 자동주차(Autopark) 기능 등 다양한 자동화 기능이 탑재돼 있다.

관심이 오토파일럿 자동주행 기능에 집중되긴 했지만 진짜 실패는 자동 비상 브레이크 시스템에서 발생했다고 보아야 한다. 이 기능이 충돌에서 실행되지 않은 것으로 관측되고 있다. 이유로는 트럭의 측면이 햇빛을 반사함에 따라 테슬라의 비주얼 시스템이 하늘과 분간하지 못했던 것이 유력하다.




2016.08.02

칼럼 | 자동화 기술에 자녀의 안전을 맡길 수 있는가?

Mike Elgan | Computerworld

자동화 기술이 유용하고 편리하다는 사실이 기계에게 책임을 넘겨도 된다는 것을 의미하지는 않는다.

아서 C 클라크의 1968년 SF명작 ‘2001: 스페이스 오디세이’에서 인류는 아무것도 배운 게 없을까? 이 영화에서 목성으로 임무 수행 중이던 우주인들은 우주선의 모든 기능을 제어하고 자동화하는 HAL 9000 인공지능 컴퓨터가 심각하게 오작동하기 시작했다는 것을 발견한다. 우주인들은 걱정하기 시작하고 HAL은 피해망상에 빠져 결국 우주선에 있는 모든 인간을 죽이게 된다.

오늘날 완전 자동화된 것들은 어떻게 사용되고 있을까? 사용자의 책임은 무엇일까? 로봇에게 통제권을 넘겨줄 수 있을까? 최근 뉴스를 보면 자동화된 제품과 기능을 사용하는데 있어서 몇몇 사람들이 실수를 저지르고 있는 것으로 보인다.



펫넷 실패
펫넷(Petnet)은 149달러짜리 클라우드-제어형 스마트 사료 공급 기기다. 강아지와 고양이에게 시간에 맞춰 자동으로 먹이를 줄 수 있도록 고안됐다. 이 기계는 가정의 와이파이 네트워크를 통해 인터넷에 연결되고 사용자는 iOS 앱으로 이 기계를 제어할 수 있다. 심지어는 수동으로 특식을 줄 수도 있다. 애완동물을 기계에 맡겨두는 죄책감에서 조금 벗어날 수 있는 셈이다.

펫넷은 또한 사료 배달 서비스와도 연동되는데, 아마존의 대시(Dash) 프로그램을 통해 자동화가 가능하다. 매번 사료를 주문하지 않아도 이 기계가 알아서 해준다. (그렇다. 강아지 산책 로봇과 강아지 돌보는 기계가 시장에 출시되기만 한다면 이제 애완동물로부터 완전 해방될 수 있다!)

게다가 펫넷은 애완동물의 사료와 물 소비량을 측정해 비만을 방지해주기도 한다. 정말이지 훌륭하지 않은가?

하지만 펫넷 클라우드 동작에 필수적인 구글-프로비저닝 서비스가 중단된다면 이야기가 달라진다. 지금까지 사례를 보면 10% 정도의 펫넷 기계들이 10시간 가량 정상 작동을 중단했다. 비록 이 회사는 자동화된 먹이주기 스케줄에는 영향이 없었다고 주장하지만 이용자들은 수동으로 먹이를 주거나 일정을 변경할 수가 없었고 몇몇 동물들은 굶었다.

펫넷은 고객들에게 이메일을 보내면서 “애완동물에게 수동으로 먹이를 주세요”라고 조언했다. 하지만 펫넷에 의존한 많은 고객들은 여름 휴가기간 동안 펫넷에게 사료 공급을 맡기고 있다.

네스트 온도계 고장
1세대 주류 사물인터넷 기기 중 하나인 구글의 네스트 학습 온도계(Nest Learning Thermostat)는 자동으로 집안 온도를 조정하는 기기다.

지난주 전국적인 무더위 속에서 몇몇 네스트 온도계들이 고장났다. 이 회사는 “네스트 온도계와 네스트 프로텍트(Nest Protects)의 일부”가 오프라인 상태인 것은 사실이지만 여전히 동작 중이라고 발표했다.

지난 1월에는 네스트 온도계의 배터리를 소모시켜 기능 중단을 초래한 광범위한 결함이 있었다. 게다가 이 사고는 미국 동부지역 한파 속에 발생했으며 그 결과 많은 네스트 고객들이 추위 속에서 떨어야 했다.

네스트의 자동 온도 조절 기능 고장으로 인한 과냉방 과난방으로 누가 죽거나 다쳤다는 이야기는 듣지 못했다. 그러나 비슷한 사고는 우리의 자동화된 미래에 충분히 발생할 수 있으며, 그 때는 온도 조절보다 심각한 무엇일 수 있다. 또 더 많은 온도계들이 네스트-같은 자동화된 시스템으로 변모한다면 장애인, 노인, 환자들을 위협할 수 있다.

테슬라 자동주행 교통사고
테슬라(Tesla)의 지난 5월 사고는 테슬라의 오토파일럿(Autopilot) 기능에 의문을 제기했다. 사고 차량은 트랙터 트레일러 측면에 충돌할 때 자동주행 모드로 달리고 있었고 결국 운전자가 사망했다. 테슬라는 1억 3,000만 마일의 자동주행 운행도중 발생한 것으로 파악된 첫 번째 사망사고라고 주장했다. 또 미국 교통 안전국(US National Transportraoin Safety Board)에 따르면 그 차량은 65마일 제한속도 도로에서 74마일로 달리고 있었다.

몇몇 테슬라 자동차에는 베타인 자동 핸들링(Autosteer) 모드, 자동 차선 변경(Auto Lane Change) 기능, 자동 비상 스티어링(Automatic Emergency Steering)과 측면 충돌 경고(Side Collision Warning) 시스템 그리고 자동주차(Autopark) 기능 등 다양한 자동화 기능이 탑재돼 있다.

관심이 오토파일럿 자동주행 기능에 집중되긴 했지만 진짜 실패는 자동 비상 브레이크 시스템에서 발생했다고 보아야 한다. 이 기능이 충돌에서 실행되지 않은 것으로 관측되고 있다. 이유로는 트럭의 측면이 햇빛을 반사함에 따라 테슬라의 비주얼 시스템이 하늘과 분간하지 못했던 것이 유력하다.


X