2017.09.11

이재용 칼럼 | 인공지능의 위험성, '학문 간 경계'에서의 시야가 필요하다

이재용 | CIO KR
2017년 7월 말에 엘론 머스크와 마크 저커버그가 인공지능의 안정성 문제에 대하여 설전을 벌였다. 당시 빌 게이츠가 엘론 머스크의 의견에 동조하면서 크게 이슈화되기도 했다. 이번 컬럼에서는 IT영역이 심리학을 비롯한 다른 학문 영역과 만나는 접점에서 발생할 수 있는 인공지능발 4차 산업혁명 사회의 안전성 문제에 대하여 생각해보려 한다.

결론부터 이야기하자면 긴장하며 대비할 필요가 있다. 특히 머스크의 주장처럼 <인공지능 칩을 인간의 머릿속에 심자!>는 식의 직접적인 방법의 인간-컴퓨터 인터페이스(Human Computer Interface)는 매우 신중히 판단해야 한다. 먼저 최근 인공지능이나 4차 산업혁명의 결과를 인간이 통제하지 못할 수도 있음을 시사하는, 유념할 만한 몇 가지 소식들을 살펴보면 다음과 같다.

위험을 경고하는 6가지 사례
1) 폭력을 당하고 있는 주인을 대신해 자동으로 경찰에 신고한 알렉사
2) 알파고의 승리 과정을 정확히 모르고 있는 딥마인드(DeepMind) 기술진
3) 페이스북과 구글에서 인공지능들이 만들어낸 그들만의 언어
4) 공산당을 비난한 중국 인공지능의 발언
5) 휴머노이드 로봇 - 소피아 인류파괴발언
6) 가상현실에서 성추행을 당하고 어려움을 토로하는 피해자의 발생

물론 위의 사례 중에는 정보의 부정확성으로 인한 발생한 오해도 있을 것이다. 그러나 문제는 IT와 심리학을 비롯한 여러 학문 접합점 경계에서 예측되지 못하는 일이 발생할 수도 있다는 점이다. 필자도 인공지능 자체는 문제가 없으며 인류의 행복 증진에 크게 기여할 수 있다는 점에는 전적으로 동의한다. 그러나 레이 커즈와일이 <특이점이 온다>에서 지적한 바와 같이 GNR의 융합이 온다는 점을 엄중하게 받아들여야 한다. 유전공학(G), 나노공학(N), 로봇공학(R)의 융합을 말하는 것이다.

유전공학(G)의 발전으로 일본의 이화학연구소에서는 심장, 눈, 폐 등의 이식 작업이 줄줄이 성공하고 있다. 물론, 지금의 이식 수준은 패치의 형태로 만들어진 심장 근육을 새 근육으로 되살리는 방식에 그친다. 당장은 큰 위협이 되지는 않는 것이 확실하다. 그러나 발전된 유전공학이 인공지능과 연결되는 문제를 상정해 봐야 한다. 또 2016년 노벨 화학상은 10억분의 1미터보다 작은 분자기계를 만든 세 명의 나노공학자들이 공동 수상했다. 백혈구 역할을 하는 나노(Nano) 로봇을 인간 신체 외부에서 통제하는 인공지능이 오동작하거나 해킹을 당한다면 어찌 할 것인가? 뇌 손상을 당한 사람을 돕기 위해서 인공지능 칩을 사람의 뇌에 주입할 수 있는 초소형 칩도 개발이 다가 왔다. 이 역시 당장은 인간에게 큰 위협은 안 되지만 지금보다 발전된 형태의 인공지능 칩이 어떤 문제를 발생시킬 수 있는지는 신중하게 검토해야 한다. 분명 칩들이 외부의 통신망과 연결될 것이기 때문이다.

이와 같은 GNR의 융합이 이루지는 인공지능발 4차 산업혁명이 인류에게 위험한 상태가 될 수 있다는 몇가지 사례를 생각해 볼 수 있다.

첫번째로 인간보다 육체적으로 뛰어나며 거울을 보여 자신을 인식할 수 있는 자아를 가진 영장류에게 지금보다 발전된 인공지능 칩이 이식되고 악의를 가진 권력자나 재력가가 이를 이용하여 자신의 야망을 실현하려고 한다면 어찌할 것인가? 아직 인류는 생명에 대하여 잘 모르는 것이 아직 많다. 권력자나 재력가가 인공지능과 접목된 영장류의 꿈, 환상, 몽상을 이용하려 한다면 어찌 하겠는가? 학문과 학문의 경계가 연결되는 틈새를 인류의 통제없이, 또는 악의를 가진 인간이나 기계가 선점할 수 있음을 유의해야 하는 것이다.

얼마 전 엘론 머스크는 자신의 조울증에 걸린 사실을 커밍아웃했다. 그의 커밍아웃은 또 다른 두려움으로 다가온다. 양극성 장애인 조울증은 순환적 무드가 반복작용하는 수준이 깊어 자신과 주위를 위험으로 빠트릴 수 있는 질병이다. 이러한 질병을 가진 사람이 인공지능 칩을 이식하고 외부와 마음대로 소통한다면 조울증이 발병하는 순간에 어떤 일이 벌어 질지 충분히 연구되었는지 묻지 않을 수 없다.

두번째로 우리는 인류가 이제까지 가보지 못한 새로운 세상으로 나아 가고 있는 모습을 목격하고 있다. 4차 산업혁명으로 인해 많은 사람들이 1인 기업이나 프리랜서로 생활하면서 전세계가 하나의 경제권으로 사이버 상에서 쉽게 만나고 헤어질 것으로 예측된다. 사이버 세상의 문제들이 얼마나 심각할 수 있는지 우리는 이제 깨달아가고 있다. 그렇다면 몰입감이 더 높은 VR 속에서는 어떤 일이 벌어질 지에 대한 위험성을 생각하지 않을 수 없다.

2017년 3월 29일 인천 동춘동 초등학생 유괴 살인 사건이 판결을 앞두고 있다. 사건의 과정은 눈과 귀를 의심하지 않을 수 없을 정도로 참혹하다. 그 배경에는 가상 자아의 탄생을 의심하게 만든다. 가상세계에서 12개의 자아를 가지고 삶을 살아가는 16세, 18세 소녀들이 현실세계와 가상세계를 구분하지 못하고 법정에서 조차 일명 ‘자케 커뮤니티’에서의 대화형식을 반복하는 모습이 정말 입을 다물지 못하게 만든다.

지난 10여년 간 중고등학생들의 학교폭력문제에 대응하는 국가적 시스템을 만드는데 엄청난 시간이 걸렸다. 인터넷 과몰입 문제들을 대응하는 제도적 장치를 만드는데도 그랬으며 따돌림 문제에 대응하는 매뉴얼을 만드는데도 엄청난 시간과 비용을 들였다. 만일, 4차 산업혁명으로 급속히 펼쳐질 가상세계에서 인간이 알지 못하는 영역을 기계가 먼저 알게 되어 인간의 삶에 크게 영향을 미치는 일을 기계가 판단하는 상황이 발생하면 어찌 할 것인가? 심각하게 묻지 않을 수 없다.

세번째로 언어 문제이다. 인지언어심리학자 에이브럼 노암 촘스키는 변형생성문법, 촘스키 계층의 연구로 인류를 새로운 세계로 안내했다. 심리언어학은 인류가 지식을 수행하고 실현하는 주요한 수단이다. 2017년 1월 구글에서, 2017년 6월 페이스북에서 인공지능 챗봇들끼리 언어 창조를 통한 대화가 이뤄졌다. 이 역시 인공지능 자체의 관점에서는 앞으로 잘 연구하면 될 문제일 것이다. 그러나 다른 학문 영역과 연결될 때 문제의 심각성이 있는 것이다. 인공지능칩과 외부 컴퓨터와 연결된 영장류가 지능이 높아지거나 악의적 권력자가 영장류와 인공지능이 알려주는 방식의 대화를 시도하면 인류에게 위협이 되지 않는다고 보장할 수 있는가?


표 1 : 학문간 접합점으로 갈수록 늘어나는 인공지능의 위험도

표 1은 인공지능발 4차산업혁명의 위험성을 학문들이 어떻게 바라보고 있는지를 정리한 것이다. 심리학 그리고 컴퓨터 공학의 학자들은 별 위험성을 경고하지 않고 있으며, 그 한계 내에서는 필자도 의견이 같다. 그러나 생물학과의 접합점의 관점에서는 생물학과 인공지능의 연결이 정말 인간에게 안전할지에 대한 걱정을 지울 수 없다.

신체에서 치밀어 오르는 분노에 대해 생물학적 연관성을 떠올릴 수 있는 사람은 모두 이해할 수 있을 것이다. 또, 자아를 가진 생물에게 인공지능 칩이 이식되는 문제영역인 생물+자아+심리+정보과학의 관점으로 가면 예측되지 않는 상황이 발생할 우려가 더욱 커진다. 또 이것에 현실과 가상을 구분하지 못하는 문제까지 관련되는 생물+자아+심리+가상(Cyber)+정보과학의 관점에서는 불안이 좀더 증폭된다.

이제는 인공지능 낙관론에서 벗어나 아직 인류가 알지못하는, 학문과 학문 사이에서의 발생할지도 모르는 위험을 철저히 검토하는 구조를 만들어야 한다. 특히, 생명윤리차원을 넘어서 인간과 기계의 접합부에서 무슨 일이 벌어지는 지에 대한 체계적 관리체계를 마련해야 한다. 심리학, 컴퓨터 공학, 생물학, 나노과학, 로봇과학자. 생명공학자, 의학자들 중에서 2개이상의 전공분야의 접합부의 연구를 수행하는 인력들을 모아 체계적으로 대처할 필요가 있겠다.

이를 전담하는 연구소와 같은 조직을 만들어 그들의 연구 관점을 대중에게 효과적으로 알리는 한편, 전문 인력배치와 관리를 체계화함으로써 4차 산업혁명의 발전 상황에 맞추어 적절한 통제와 자율을 제공하는 시스템이 만들어야 한다. 그래야만 서로 다른 분야에서 문제를 해결할 것으로 기대하여 벌어지는 방관자효과(bystander effect)로 인류와 국가가 위험에 빠지는 사태를 최대한 예방할 수 있을 있을 것이다.

* 한서대학교에 근무하는 이재용 교수는 4차산업혁명 카운셀러로써 IT 조직심리학, 심리정보과학의 연구, 강연 및 소통교육을 하고 있다. 4차 산업혁명의 지향점을 인간심리요소의 4가지 컴퓨팅 개념화 파라다임으로 설명하는 컴퓨터공학자이자 심리정보학자이다. 특정 프로젝트나 제품, 연구가 4차 산업혁명의 지향점 중 어떤 위치에 해당하는지를 확인해 볼 수 있는 <특이점 지도>를 만들기 위해 노력하고 있다. ciokr@idg.co.kr

2017.09.11

이재용 칼럼 | 인공지능의 위험성, '학문 간 경계'에서의 시야가 필요하다

이재용 | CIO KR
2017년 7월 말에 엘론 머스크와 마크 저커버그가 인공지능의 안정성 문제에 대하여 설전을 벌였다. 당시 빌 게이츠가 엘론 머스크의 의견에 동조하면서 크게 이슈화되기도 했다. 이번 컬럼에서는 IT영역이 심리학을 비롯한 다른 학문 영역과 만나는 접점에서 발생할 수 있는 인공지능발 4차 산업혁명 사회의 안전성 문제에 대하여 생각해보려 한다.

결론부터 이야기하자면 긴장하며 대비할 필요가 있다. 특히 머스크의 주장처럼 <인공지능 칩을 인간의 머릿속에 심자!>는 식의 직접적인 방법의 인간-컴퓨터 인터페이스(Human Computer Interface)는 매우 신중히 판단해야 한다. 먼저 최근 인공지능이나 4차 산업혁명의 결과를 인간이 통제하지 못할 수도 있음을 시사하는, 유념할 만한 몇 가지 소식들을 살펴보면 다음과 같다.

위험을 경고하는 6가지 사례
1) 폭력을 당하고 있는 주인을 대신해 자동으로 경찰에 신고한 알렉사
2) 알파고의 승리 과정을 정확히 모르고 있는 딥마인드(DeepMind) 기술진
3) 페이스북과 구글에서 인공지능들이 만들어낸 그들만의 언어
4) 공산당을 비난한 중국 인공지능의 발언
5) 휴머노이드 로봇 - 소피아 인류파괴발언
6) 가상현실에서 성추행을 당하고 어려움을 토로하는 피해자의 발생

물론 위의 사례 중에는 정보의 부정확성으로 인한 발생한 오해도 있을 것이다. 그러나 문제는 IT와 심리학을 비롯한 여러 학문 접합점 경계에서 예측되지 못하는 일이 발생할 수도 있다는 점이다. 필자도 인공지능 자체는 문제가 없으며 인류의 행복 증진에 크게 기여할 수 있다는 점에는 전적으로 동의한다. 그러나 레이 커즈와일이 <특이점이 온다>에서 지적한 바와 같이 GNR의 융합이 온다는 점을 엄중하게 받아들여야 한다. 유전공학(G), 나노공학(N), 로봇공학(R)의 융합을 말하는 것이다.

유전공학(G)의 발전으로 일본의 이화학연구소에서는 심장, 눈, 폐 등의 이식 작업이 줄줄이 성공하고 있다. 물론, 지금의 이식 수준은 패치의 형태로 만들어진 심장 근육을 새 근육으로 되살리는 방식에 그친다. 당장은 큰 위협이 되지는 않는 것이 확실하다. 그러나 발전된 유전공학이 인공지능과 연결되는 문제를 상정해 봐야 한다. 또 2016년 노벨 화학상은 10억분의 1미터보다 작은 분자기계를 만든 세 명의 나노공학자들이 공동 수상했다. 백혈구 역할을 하는 나노(Nano) 로봇을 인간 신체 외부에서 통제하는 인공지능이 오동작하거나 해킹을 당한다면 어찌 할 것인가? 뇌 손상을 당한 사람을 돕기 위해서 인공지능 칩을 사람의 뇌에 주입할 수 있는 초소형 칩도 개발이 다가 왔다. 이 역시 당장은 인간에게 큰 위협은 안 되지만 지금보다 발전된 형태의 인공지능 칩이 어떤 문제를 발생시킬 수 있는지는 신중하게 검토해야 한다. 분명 칩들이 외부의 통신망과 연결될 것이기 때문이다.

이와 같은 GNR의 융합이 이루지는 인공지능발 4차 산업혁명이 인류에게 위험한 상태가 될 수 있다는 몇가지 사례를 생각해 볼 수 있다.

첫번째로 인간보다 육체적으로 뛰어나며 거울을 보여 자신을 인식할 수 있는 자아를 가진 영장류에게 지금보다 발전된 인공지능 칩이 이식되고 악의를 가진 권력자나 재력가가 이를 이용하여 자신의 야망을 실현하려고 한다면 어찌할 것인가? 아직 인류는 생명에 대하여 잘 모르는 것이 아직 많다. 권력자나 재력가가 인공지능과 접목된 영장류의 꿈, 환상, 몽상을 이용하려 한다면 어찌 하겠는가? 학문과 학문의 경계가 연결되는 틈새를 인류의 통제없이, 또는 악의를 가진 인간이나 기계가 선점할 수 있음을 유의해야 하는 것이다.

얼마 전 엘론 머스크는 자신의 조울증에 걸린 사실을 커밍아웃했다. 그의 커밍아웃은 또 다른 두려움으로 다가온다. 양극성 장애인 조울증은 순환적 무드가 반복작용하는 수준이 깊어 자신과 주위를 위험으로 빠트릴 수 있는 질병이다. 이러한 질병을 가진 사람이 인공지능 칩을 이식하고 외부와 마음대로 소통한다면 조울증이 발병하는 순간에 어떤 일이 벌어 질지 충분히 연구되었는지 묻지 않을 수 없다.

두번째로 우리는 인류가 이제까지 가보지 못한 새로운 세상으로 나아 가고 있는 모습을 목격하고 있다. 4차 산업혁명으로 인해 많은 사람들이 1인 기업이나 프리랜서로 생활하면서 전세계가 하나의 경제권으로 사이버 상에서 쉽게 만나고 헤어질 것으로 예측된다. 사이버 세상의 문제들이 얼마나 심각할 수 있는지 우리는 이제 깨달아가고 있다. 그렇다면 몰입감이 더 높은 VR 속에서는 어떤 일이 벌어질 지에 대한 위험성을 생각하지 않을 수 없다.

2017년 3월 29일 인천 동춘동 초등학생 유괴 살인 사건이 판결을 앞두고 있다. 사건의 과정은 눈과 귀를 의심하지 않을 수 없을 정도로 참혹하다. 그 배경에는 가상 자아의 탄생을 의심하게 만든다. 가상세계에서 12개의 자아를 가지고 삶을 살아가는 16세, 18세 소녀들이 현실세계와 가상세계를 구분하지 못하고 법정에서 조차 일명 ‘자케 커뮤니티’에서의 대화형식을 반복하는 모습이 정말 입을 다물지 못하게 만든다.

지난 10여년 간 중고등학생들의 학교폭력문제에 대응하는 국가적 시스템을 만드는데 엄청난 시간이 걸렸다. 인터넷 과몰입 문제들을 대응하는 제도적 장치를 만드는데도 그랬으며 따돌림 문제에 대응하는 매뉴얼을 만드는데도 엄청난 시간과 비용을 들였다. 만일, 4차 산업혁명으로 급속히 펼쳐질 가상세계에서 인간이 알지 못하는 영역을 기계가 먼저 알게 되어 인간의 삶에 크게 영향을 미치는 일을 기계가 판단하는 상황이 발생하면 어찌 할 것인가? 심각하게 묻지 않을 수 없다.

세번째로 언어 문제이다. 인지언어심리학자 에이브럼 노암 촘스키는 변형생성문법, 촘스키 계층의 연구로 인류를 새로운 세계로 안내했다. 심리언어학은 인류가 지식을 수행하고 실현하는 주요한 수단이다. 2017년 1월 구글에서, 2017년 6월 페이스북에서 인공지능 챗봇들끼리 언어 창조를 통한 대화가 이뤄졌다. 이 역시 인공지능 자체의 관점에서는 앞으로 잘 연구하면 될 문제일 것이다. 그러나 다른 학문 영역과 연결될 때 문제의 심각성이 있는 것이다. 인공지능칩과 외부 컴퓨터와 연결된 영장류가 지능이 높아지거나 악의적 권력자가 영장류와 인공지능이 알려주는 방식의 대화를 시도하면 인류에게 위협이 되지 않는다고 보장할 수 있는가?


표 1 : 학문간 접합점으로 갈수록 늘어나는 인공지능의 위험도

표 1은 인공지능발 4차산업혁명의 위험성을 학문들이 어떻게 바라보고 있는지를 정리한 것이다. 심리학 그리고 컴퓨터 공학의 학자들은 별 위험성을 경고하지 않고 있으며, 그 한계 내에서는 필자도 의견이 같다. 그러나 생물학과의 접합점의 관점에서는 생물학과 인공지능의 연결이 정말 인간에게 안전할지에 대한 걱정을 지울 수 없다.

신체에서 치밀어 오르는 분노에 대해 생물학적 연관성을 떠올릴 수 있는 사람은 모두 이해할 수 있을 것이다. 또, 자아를 가진 생물에게 인공지능 칩이 이식되는 문제영역인 생물+자아+심리+정보과학의 관점으로 가면 예측되지 않는 상황이 발생할 우려가 더욱 커진다. 또 이것에 현실과 가상을 구분하지 못하는 문제까지 관련되는 생물+자아+심리+가상(Cyber)+정보과학의 관점에서는 불안이 좀더 증폭된다.

이제는 인공지능 낙관론에서 벗어나 아직 인류가 알지못하는, 학문과 학문 사이에서의 발생할지도 모르는 위험을 철저히 검토하는 구조를 만들어야 한다. 특히, 생명윤리차원을 넘어서 인간과 기계의 접합부에서 무슨 일이 벌어지는 지에 대한 체계적 관리체계를 마련해야 한다. 심리학, 컴퓨터 공학, 생물학, 나노과학, 로봇과학자. 생명공학자, 의학자들 중에서 2개이상의 전공분야의 접합부의 연구를 수행하는 인력들을 모아 체계적으로 대처할 필요가 있겠다.

이를 전담하는 연구소와 같은 조직을 만들어 그들의 연구 관점을 대중에게 효과적으로 알리는 한편, 전문 인력배치와 관리를 체계화함으로써 4차 산업혁명의 발전 상황에 맞추어 적절한 통제와 자율을 제공하는 시스템이 만들어야 한다. 그래야만 서로 다른 분야에서 문제를 해결할 것으로 기대하여 벌어지는 방관자효과(bystander effect)로 인류와 국가가 위험에 빠지는 사태를 최대한 예방할 수 있을 있을 것이다.

* 한서대학교에 근무하는 이재용 교수는 4차산업혁명 카운셀러로써 IT 조직심리학, 심리정보과학의 연구, 강연 및 소통교육을 하고 있다. 4차 산업혁명의 지향점을 인간심리요소의 4가지 컴퓨팅 개념화 파라다임으로 설명하는 컴퓨터공학자이자 심리정보학자이다. 특정 프로젝트나 제품, 연구가 4차 산업혁명의 지향점 중 어떤 위치에 해당하는지를 확인해 볼 수 있는 <특이점 지도>를 만들기 위해 노력하고 있다. ciokr@idg.co.kr

X