2016.06.08

반란 막을 비상수단··· 구글 딥마인드, AI 킬 스위치 연구 중

Sharon Gaudin | Computerworld
로봇에게 지배당하고 싶지 않다면? '킬 스위치'를 만들면 어떨까?


출처 : Getty Images Bank

많은 이들이 각종 영화를 통해 AI가 고도화된 미래 풍경을 상상한다. 그리고 그 중 일부는 분명 로봇이 강해져 인간을 지배하는 세상이 오는 것은 아닌지 두려워하고 있다. 이러한 문제를 예방하기 위해 구글 딥마인드가 앞장서고 있다.

지난 2014년 구글이 인수한 영국계 AI기업 구글 딥마인드는, 로봇이나 기타 AI시스템에 적용할 수 있는 킬 스위치(kill switch)를 개발하고 있다.

킬 스위치는 스마트 머신이 스스로 통제하는 날이 올 수도 있다는 걱정에서 개발되기 시작됐다. 그럴 경우를 대비해 인간에게 이를 통제할 다른 방법이 필요하다는 개념이다.

킬 스위치 개발 연구진은 MIRI 홈페이지에 게시한 논문에서 "로봇이 인간의 감시를 실시간으로 받으면서 작동하는 상황이더라도, 관리자인 인간에게는 로봇을 중지할 수 있는 커다란 빨간 버튼이 필요할 수 있다"라고 기술했다. 이와 함께 "하지만 로봇이 학습 능력을 발휘해...빨간 버튼을 고장 내는 등 끝끝내 인간의 조치를 피할 수 있게 된다면, 바라지 않는 결과가 나타날 것"이라는 문구도 덧붙였다. 

해당 논문은 구글 딥마인드의 연구 과학자인 로랑 오르소와 영국 옥스포드 대학교 산하 인류미래연구소(Future of Humanity Institute) 연구원인 스튜어트 암스트롱이 공동으로 저술했다.

해당 연구진은 기계가 인간의 조치 방식을 알아내지 못 하고, 설령 알아냈더라도 인간을 위협할 수 없도록 하는 킬 스위치를 연구하고 있다.

AI를 둘러싼 두려움을 고려하면 연구진들에게 흥미로우면서도 막중한 임무가 부여됐다고 할 수 있다. 

많은 이들이 '2001 스페이스 오딧세이', '터미네이터', '아이, 로봇'과 같은 영화와 '배틀스타 갤럭티카'와 같은 TV프로그램을 보면서 로봇이 발달한 미래를 상상하지만, 일각에서는 로봇이 힘을 갖추고 인간을 노예로 삼는 미래를 우려하고 있다.

수많은 사람들, 심지어 테슬라 CEO인 엘론 머스크와 유명한 물리학자 스티븐 호킹까지도 스마트 머신이 인간의 삶에 더 깊이 관여하게 되는 미래에 어떤 일이 인류에게 일어날지 염려하고 있다. 스티븐 호킹은 "AI가 극도로 발달하면 인류에게 종말이 올 수 있다"라고 말했다.

-> 기고 | 인공지능에의 안전한 접근법, '집단 AI'에 쏠리는 관심

그런 점에서 구글의 이번 킬 스위치 연구는 적절한 시기에 이뤄지고 있다는 평가를 받고 있다.

무어 인사이츠&스트래티지 애널리스트인 패트릭 무어헤드는 "AI 및 자동화 기계를 현재 활용하고 있다는 점에서 AI의 위험성에 대해 논의할 때가 왔다"라고 말했다. "마치 자동차를 설계한 직후 ABS와 브레이크 시스템을 만드는 것과 같다. 킬 스위치는 전체적인 시스템 안에서 설계돼야 한다. 그렇지 않다면 보안 문제가 발생할 수 있으며, 심지어 기계가 킬 스위치를 피해가려고 시도할 수도 있다"라고 덧붙였다.

무어헤드는 AI 기반 기계가 대세로 떠오르고 있는 상황을 걱정하는지 여부는 밝히지 않았으나, 킬 스위치 개발이 추진되고 있어서 기쁘다고 전했다.

그는 "킬 스위치가 없다면 AI시스템을 걱정해야 할 것"이라면서 "브레이크 없는 초고속 열차를 만드는 것이나 다름없다"라고 말했다.

산업 애널리스트인 제프 카간은 산업이 그간 부작용을 예상하지 않고 기술을 개발해 왔다는 점에서 이번 연구는 시의적절한 노력이라고 평가했다.

카간은 "인간을 따라잡고 있는 AI에 아직은 걱정하지 않아도 된다"라면서도 "늘 우리가 생각하는 것보다 더 빠르게 개발이 이뤄진다...똑똑한 과학자들이 발견에만 몰두해 결국 인간을 위협하기보다는 지성을 다해 우리를 지켜줬으면 좋겠다"라고 말했다.

구글은 검색 엔진에 활용한 기술을 바탕으로 AI에 야심차게 뛰어들어 채팅 앱과 동영상 앱을 개발하고 있다. 얼마 전 구글 I/O에서는 구글 어시스턴트와 구글 홈 기기를 공개하기도 했다.

가브리엘 컨설팅 그룹의 애널리스트인 댄 올즈는 이번 연구를 통해 구글이 보안 기능에 신경을 쓰고 있다는 사실이 드러났다고 평가했다. 

올즈는 "로보틱스와 AI 분야를 깊게 파고들었다는 점에서 구글은 이 연구를 이끌어 갈 적임자"라고 말했다. 그러면서 "현재의 기술력을 고려하면, AI나 로봇이 (인류를) '따라잡으려고' 시도할 것이라는 예측은 아직은 먼 미래의 일이다. 하지만 얼마나 먼 미래일까? 앞으로 5년 안에 자산 포트폴리오 관리를 AI에 맡기는 금융 서비스 기업을 보게 될 것이다. 오로지 AI로만 통제하는 기계화된 장비도 보게 될 것이다. 이게 바로 우리에게 킬 스위치가 필요한 이유다. 이러한 기계들이 제 역할에서 벗어나 피해를 입히며 위협할 수 있는 상황에 대비해야 하는 것"이라고 말했다. ciokr@idg.co.kr



2016.06.08

반란 막을 비상수단··· 구글 딥마인드, AI 킬 스위치 연구 중

Sharon Gaudin | Computerworld
로봇에게 지배당하고 싶지 않다면? '킬 스위치'를 만들면 어떨까?


출처 : Getty Images Bank

많은 이들이 각종 영화를 통해 AI가 고도화된 미래 풍경을 상상한다. 그리고 그 중 일부는 분명 로봇이 강해져 인간을 지배하는 세상이 오는 것은 아닌지 두려워하고 있다. 이러한 문제를 예방하기 위해 구글 딥마인드가 앞장서고 있다.

지난 2014년 구글이 인수한 영국계 AI기업 구글 딥마인드는, 로봇이나 기타 AI시스템에 적용할 수 있는 킬 스위치(kill switch)를 개발하고 있다.

킬 스위치는 스마트 머신이 스스로 통제하는 날이 올 수도 있다는 걱정에서 개발되기 시작됐다. 그럴 경우를 대비해 인간에게 이를 통제할 다른 방법이 필요하다는 개념이다.

킬 스위치 개발 연구진은 MIRI 홈페이지에 게시한 논문에서 "로봇이 인간의 감시를 실시간으로 받으면서 작동하는 상황이더라도, 관리자인 인간에게는 로봇을 중지할 수 있는 커다란 빨간 버튼이 필요할 수 있다"라고 기술했다. 이와 함께 "하지만 로봇이 학습 능력을 발휘해...빨간 버튼을 고장 내는 등 끝끝내 인간의 조치를 피할 수 있게 된다면, 바라지 않는 결과가 나타날 것"이라는 문구도 덧붙였다. 

해당 논문은 구글 딥마인드의 연구 과학자인 로랑 오르소와 영국 옥스포드 대학교 산하 인류미래연구소(Future of Humanity Institute) 연구원인 스튜어트 암스트롱이 공동으로 저술했다.

해당 연구진은 기계가 인간의 조치 방식을 알아내지 못 하고, 설령 알아냈더라도 인간을 위협할 수 없도록 하는 킬 스위치를 연구하고 있다.

AI를 둘러싼 두려움을 고려하면 연구진들에게 흥미로우면서도 막중한 임무가 부여됐다고 할 수 있다. 

많은 이들이 '2001 스페이스 오딧세이', '터미네이터', '아이, 로봇'과 같은 영화와 '배틀스타 갤럭티카'와 같은 TV프로그램을 보면서 로봇이 발달한 미래를 상상하지만, 일각에서는 로봇이 힘을 갖추고 인간을 노예로 삼는 미래를 우려하고 있다.

수많은 사람들, 심지어 테슬라 CEO인 엘론 머스크와 유명한 물리학자 스티븐 호킹까지도 스마트 머신이 인간의 삶에 더 깊이 관여하게 되는 미래에 어떤 일이 인류에게 일어날지 염려하고 있다. 스티븐 호킹은 "AI가 극도로 발달하면 인류에게 종말이 올 수 있다"라고 말했다.

-> 기고 | 인공지능에의 안전한 접근법, '집단 AI'에 쏠리는 관심

그런 점에서 구글의 이번 킬 스위치 연구는 적절한 시기에 이뤄지고 있다는 평가를 받고 있다.

무어 인사이츠&스트래티지 애널리스트인 패트릭 무어헤드는 "AI 및 자동화 기계를 현재 활용하고 있다는 점에서 AI의 위험성에 대해 논의할 때가 왔다"라고 말했다. "마치 자동차를 설계한 직후 ABS와 브레이크 시스템을 만드는 것과 같다. 킬 스위치는 전체적인 시스템 안에서 설계돼야 한다. 그렇지 않다면 보안 문제가 발생할 수 있으며, 심지어 기계가 킬 스위치를 피해가려고 시도할 수도 있다"라고 덧붙였다.

무어헤드는 AI 기반 기계가 대세로 떠오르고 있는 상황을 걱정하는지 여부는 밝히지 않았으나, 킬 스위치 개발이 추진되고 있어서 기쁘다고 전했다.

그는 "킬 스위치가 없다면 AI시스템을 걱정해야 할 것"이라면서 "브레이크 없는 초고속 열차를 만드는 것이나 다름없다"라고 말했다.

산업 애널리스트인 제프 카간은 산업이 그간 부작용을 예상하지 않고 기술을 개발해 왔다는 점에서 이번 연구는 시의적절한 노력이라고 평가했다.

카간은 "인간을 따라잡고 있는 AI에 아직은 걱정하지 않아도 된다"라면서도 "늘 우리가 생각하는 것보다 더 빠르게 개발이 이뤄진다...똑똑한 과학자들이 발견에만 몰두해 결국 인간을 위협하기보다는 지성을 다해 우리를 지켜줬으면 좋겠다"라고 말했다.

구글은 검색 엔진에 활용한 기술을 바탕으로 AI에 야심차게 뛰어들어 채팅 앱과 동영상 앱을 개발하고 있다. 얼마 전 구글 I/O에서는 구글 어시스턴트와 구글 홈 기기를 공개하기도 했다.

가브리엘 컨설팅 그룹의 애널리스트인 댄 올즈는 이번 연구를 통해 구글이 보안 기능에 신경을 쓰고 있다는 사실이 드러났다고 평가했다. 

올즈는 "로보틱스와 AI 분야를 깊게 파고들었다는 점에서 구글은 이 연구를 이끌어 갈 적임자"라고 말했다. 그러면서 "현재의 기술력을 고려하면, AI나 로봇이 (인류를) '따라잡으려고' 시도할 것이라는 예측은 아직은 먼 미래의 일이다. 하지만 얼마나 먼 미래일까? 앞으로 5년 안에 자산 포트폴리오 관리를 AI에 맡기는 금융 서비스 기업을 보게 될 것이다. 오로지 AI로만 통제하는 기계화된 장비도 보게 될 것이다. 이게 바로 우리에게 킬 스위치가 필요한 이유다. 이러한 기계들이 제 역할에서 벗어나 피해를 입히며 위협할 수 있는 상황에 대비해야 하는 것"이라고 말했다. ciokr@idg.co.kr

X