2014.12.04

스티븐 호킹의 경고 "인공지능, 인류 멸망 초래할 수 있다"

Sharon Gaudin | ARN
이번에는 스티븐 호킹 박사의 경고다. 최근 테슬라 모터스 엘론 머스크 회장이 인공지능 기술에 대해 인류에의 위협이라고 표현한데 이어, 이번 주에는 스티븐 호킹 박사가 인류에 종말을 초래할 수도 있는 기술이라고 경고했다.



저명 물리학자이자 우주학자, 저자인 스티븐 호킹은 BBC와의 인터뷰에서 "완전한 인공지능 기술의 발전은 인류의 종말을 초래할 수 있다"라고 말했다. BBC의 부연 설명에 따르면 호킹은 현재의 인공지능이 인류에 위협이 되는 수준이 아니라고 언급하면서도 미래에는 인공지능 기술이 지성 및 물리적 능력 측면에서 인간을 넘어설 수 있다고 우려했다.

호킹은 "언젠가는 인공지능이 스스로를 넘어서 자기자신을 재구성해 발전을 지속할 것이다. 생물학적 진화 속도가 느리다는 제한점을 가진 인간은 이와 경쟁할 수 없을 것이며 결국 대체될 것"이라고 말했다.

호킹 박사의 이번 발언은 하이테크 기업가 머스크의 경고 이후 나왔다. 머스크는 10월 MIT에서 진행한 연설에서 AI 연구 이면의 위험성에 대해 경고한 바 있다.

그는 "인공지능과 관련해 신중한 접근이 필요하다고 본다"라며 "우리에게 가장 크게 실존하는 위협이 있다면, 아마 이것이다... 어쩌면 우리는 인공지능이라는 괴물을 소환하고 있을지 모른다. 모든 이야기 속에서 오각형과 성수를 가진 이들은 괴물을 소환할 때 통제할 수 있을 것이라고 확신했었다. 그러나 결국 제대로 해내지 못하곤 했다"라고 말했다.

그는 또 MIT 청중들에게 범국가적이고 범지구적 통찰이 업계에게 요구되고 있다고 말하는 한편, AI가 핵폭탄보다 더 위험할 수 있다는 내용의 트윗을 남기기도 했다.

머스커의 발언은 인공지능에 대한 토론을 유발시켰다. 이 중에는 오늘 날의 로봇 수준이 인류를 학살하는 터미네이터 스타일의 로봇보다는 진공청소기 로봇에 멈추고 있다는 지적도 있었다.

캘리포니아 기술원 컴퓨터 공학 및 전기 엔지니어링 부문 야세르 아부 모스타파 교수는 AI에 대해 부정적인 관심이 쏟아지는 것에 대해 그리 놀랍지 않다고 전했다. 잠재적으로 위험한 기술의 등장 이전에는 으레 그렇다는 설명이다.

그는 "이러한 우려를 뒷받침할 만한 AI 분야의 획기적인 진전이 최근 없었다"라며, "이러한 우려가 나타나는 이유 중 하나는 휴대폰이 빠르고 광범위하게 확산되는 등 IT 제품 측면에서 두드러진 변화가 있었기 때문일 것이다. 이로 인해 공상과학 수준의 전망이 대중에게 설득력 있게 받아지고 있는 것일 것"이라고 말했다.

모스타파 교수는 이어 물론 머스크나 호킹 박사가 대중과는 거리가 먼 인물이라고 인정하면서도 그들의 의견에 동의할 수 없다고 강조했다.

그는 "우려하고 있지 않다. 월등한 기계 지능의 출현까지는 수십 년 이상 떨어져 있을 뿐더러, 그 시점이 되면 통제 방안까지 확보할 수 있을 것으로 믿기 때문이다. 핵무기에 빗댈 수 있겠다. 인류에게는 전세계를 몇 분만에 파괴할 수 있는 물리적 능력이 있다. 하지만 이러한 파괴가 실제로 발생할지는 다른 문제다. 인류는 안전장치를 마련할 수 있다"라고 말했다.

AI에 대한 우려에 동의하는 과학자들도 있다. 그러나 이들 또한 우려할 만한 수준에 도달하기까지는 50~100년 정도의 시간이 남아있다고 입을 모았다. 준비하기에 충분한 시간이라는 설명이다.

카네기 멜론 대학 컴퓨터 과학 스쿨 앤드류 무어 원장은 "타당한 우려라고 본다. 사실 흥미로운 주제이기도 하다"라며, "단 아직은 먼 미래의 위험요소다. 언젠가는 이에 대해 진지하게 고민해야 할 것이다. 인류가 초지능의, 강력한 기계를 만들 때가 도래하면 우리는 반드시 멈추고 우리가 무슨 일을 벌이고 있는지 진단해야 할 것이다"라고 말했다.

캘리포니아 버클리 대학 컴퓨터 과학 및 전기 공학 부문 스튜어트 러셀 교수는 AI 관련 미래의 위험성에 주목하고 있다면서, 과학자들과의 토론, 워크샵, 교육 과정을 조직하는 등의 노력을 이미 펼치고 있다고 전했다. 그는 이제 이 이슈에 대해 고민을 시작해야 할 시점이라고 말했다. ciokr@idg.co.kr



2014.12.04

스티븐 호킹의 경고 "인공지능, 인류 멸망 초래할 수 있다"

Sharon Gaudin | ARN
이번에는 스티븐 호킹 박사의 경고다. 최근 테슬라 모터스 엘론 머스크 회장이 인공지능 기술에 대해 인류에의 위협이라고 표현한데 이어, 이번 주에는 스티븐 호킹 박사가 인류에 종말을 초래할 수도 있는 기술이라고 경고했다.



저명 물리학자이자 우주학자, 저자인 스티븐 호킹은 BBC와의 인터뷰에서 "완전한 인공지능 기술의 발전은 인류의 종말을 초래할 수 있다"라고 말했다. BBC의 부연 설명에 따르면 호킹은 현재의 인공지능이 인류에 위협이 되는 수준이 아니라고 언급하면서도 미래에는 인공지능 기술이 지성 및 물리적 능력 측면에서 인간을 넘어설 수 있다고 우려했다.

호킹은 "언젠가는 인공지능이 스스로를 넘어서 자기자신을 재구성해 발전을 지속할 것이다. 생물학적 진화 속도가 느리다는 제한점을 가진 인간은 이와 경쟁할 수 없을 것이며 결국 대체될 것"이라고 말했다.

호킹 박사의 이번 발언은 하이테크 기업가 머스크의 경고 이후 나왔다. 머스크는 10월 MIT에서 진행한 연설에서 AI 연구 이면의 위험성에 대해 경고한 바 있다.

그는 "인공지능과 관련해 신중한 접근이 필요하다고 본다"라며 "우리에게 가장 크게 실존하는 위협이 있다면, 아마 이것이다... 어쩌면 우리는 인공지능이라는 괴물을 소환하고 있을지 모른다. 모든 이야기 속에서 오각형과 성수를 가진 이들은 괴물을 소환할 때 통제할 수 있을 것이라고 확신했었다. 그러나 결국 제대로 해내지 못하곤 했다"라고 말했다.

그는 또 MIT 청중들에게 범국가적이고 범지구적 통찰이 업계에게 요구되고 있다고 말하는 한편, AI가 핵폭탄보다 더 위험할 수 있다는 내용의 트윗을 남기기도 했다.

머스커의 발언은 인공지능에 대한 토론을 유발시켰다. 이 중에는 오늘 날의 로봇 수준이 인류를 학살하는 터미네이터 스타일의 로봇보다는 진공청소기 로봇에 멈추고 있다는 지적도 있었다.

캘리포니아 기술원 컴퓨터 공학 및 전기 엔지니어링 부문 야세르 아부 모스타파 교수는 AI에 대해 부정적인 관심이 쏟아지는 것에 대해 그리 놀랍지 않다고 전했다. 잠재적으로 위험한 기술의 등장 이전에는 으레 그렇다는 설명이다.

그는 "이러한 우려를 뒷받침할 만한 AI 분야의 획기적인 진전이 최근 없었다"라며, "이러한 우려가 나타나는 이유 중 하나는 휴대폰이 빠르고 광범위하게 확산되는 등 IT 제품 측면에서 두드러진 변화가 있었기 때문일 것이다. 이로 인해 공상과학 수준의 전망이 대중에게 설득력 있게 받아지고 있는 것일 것"이라고 말했다.

모스타파 교수는 이어 물론 머스크나 호킹 박사가 대중과는 거리가 먼 인물이라고 인정하면서도 그들의 의견에 동의할 수 없다고 강조했다.

그는 "우려하고 있지 않다. 월등한 기계 지능의 출현까지는 수십 년 이상 떨어져 있을 뿐더러, 그 시점이 되면 통제 방안까지 확보할 수 있을 것으로 믿기 때문이다. 핵무기에 빗댈 수 있겠다. 인류에게는 전세계를 몇 분만에 파괴할 수 있는 물리적 능력이 있다. 하지만 이러한 파괴가 실제로 발생할지는 다른 문제다. 인류는 안전장치를 마련할 수 있다"라고 말했다.

AI에 대한 우려에 동의하는 과학자들도 있다. 그러나 이들 또한 우려할 만한 수준에 도달하기까지는 50~100년 정도의 시간이 남아있다고 입을 모았다. 준비하기에 충분한 시간이라는 설명이다.

카네기 멜론 대학 컴퓨터 과학 스쿨 앤드류 무어 원장은 "타당한 우려라고 본다. 사실 흥미로운 주제이기도 하다"라며, "단 아직은 먼 미래의 위험요소다. 언젠가는 이에 대해 진지하게 고민해야 할 것이다. 인류가 초지능의, 강력한 기계를 만들 때가 도래하면 우리는 반드시 멈추고 우리가 무슨 일을 벌이고 있는지 진단해야 할 것이다"라고 말했다.

캘리포니아 버클리 대학 컴퓨터 과학 및 전기 공학 부문 스튜어트 러셀 교수는 AI 관련 미래의 위험성에 주목하고 있다면서, 과학자들과의 토론, 워크샵, 교육 과정을 조직하는 등의 노력을 이미 펼치고 있다고 전했다. 그는 이제 이 이슈에 대해 고민을 시작해야 할 시점이라고 말했다. ciokr@idg.co.kr

X