2017.05.15

인터뷰 | 어느덧 20주년··· 딥블루 개발자와 나눈 AI 이야기

Peter Sayer | IDG News Service

1997년 5월 11일, 세계인이 즐기는 한 게임 분야에서 컴퓨터가 인간을 넘어서는 일이 발생했다. 카네기 멜론 대학이 칩테스트(ChipTest)라는 이름의 시스템으로 개발한 IBM의 딥블루(Deep Blue)가 세계 체스 챔피언 개리 카스파로브(Garry Kasparov)와의 대국에서 승리를 거뒀던 것이다.

당시 딥블루 개발팀의 일원이던 머레이 캠벨이 IDG 뉴스 서비스와의 인터뷰를 통해 인공지능에 대한 시각을 공유했다. 컴퓨터가 인간과 대등한, 혹은 인간을 능가할 수 있는 영역들을 진단하는 한편, 미래에의 의미에 대한 것들이다. 주요 인터뷰 내용은 다음과 같다.



IDGN : 딥블루 런칭에 맞춰 IBM에 합류했다는 소개가 옳은 내용인가?
머레이 캠벨(MC): 완전히 옳은 표현은 아닌 것 같다. 당시 난 피츠버그 카네기 멜론 대학 소속이었고, 1989년 동료들과 함께 IBM에 합류하게 됐다. ‘딥블루'라는 이름이 쓰이기 시작한 것은 그로부터 일 년 뒤다.

그렇다면 딥블루 프로젝트에 전속으로 참여한 것인가?
입사 후 세계 챔피언십이 치러진 1997년까지는 내 역할이었다. 우리는 딥블루를 개발하고, 개선하는 작업을 진행해나갔다.

딥블루에 말을 직선으로 옮기도록 하는 버그가 존재했고, 그것이 카스파로브에게 혼란을 줘 패배를 야기했다는 의견도 있다. 사실인가?
근거 있는 의견이라고 확언하긴 어려울 것 같다. 당시 상황을 설명하자면, 1회전 후반부, 딥블루는 패배가 예견되는 상황이었다. 딥블루에게 불리한 판세 속에서 몇 수가 오갔고, 카스파로브 역시 승기를 읽고 있었을 것이다. 카스파로브는 분명 이기는 수를 알고 있었다고 본다. 그런 상황 속에서 딥블루는 버그로 인해 예측하지 못한 수를 두게 된다. 분명 잘못된 수였고, 카스파로브가 대응수를 뒀을 때 우리는 패배를 선언했다.

이 1차전에 관해 일부에서는 카스파로브가 딥블루의 사고방식과 역량을 제대로 이해하는데 방해를 줬다고 이야기하기도 한다. 그러나 개인적으론 이런 의견은 어디까지나 추측일 뿐이라 생각한다.

해당 버그는 어떻게 발생한 것인가? 당시 관련 원인을 이해할 수 있었나?
일단 원인은, 이해 가능했고 수정 역시 이뤄졌다. 수정의 경우 2차전이 끝난 뒤에야 가능했기에 결국 한 차례 더 버그가 존재하는 상황에서 대국을 치른 셈이다. 다행히 발생 빈도가 낮은 버그였기에 2차전에서는 문제가 발생하지 않고 게임 진행이 가능했다.

분석에 따르면 버그는 특정 상황 하에서 발현되는 것이었다. 딥블루는 말 이동 계산에 시간 제한을 설정하고 있었는데, 해당 시간을 전부 소모할 경우 말을 랜덤으로 이동시키는 문제가 발생했다. 해당 버그는 대국 수 개월 전 이미 확인된 내용이었고, 팀 내부에서는 이미 수정된 내용으로 파악하고 있던 부분이다. 돌이켜보면 버그 동작을 야기하는 상황은 5가지였는데, 우리는 그 중 4가지를 수정하고 하나를 놓친 것으로 보인다. 그리고 그 하나가 첫 대국에서 발생하게 된 것이다.

당시의 대국 이후, 딥마인드(DeepMind)의 알파고(Alpha Go)는 세계 바둑 최고수로 등극했고, IBM의 왓슨(Watson)은 그보다 먼저 제퍼디 챔피언 자리에 올랐다 본인이 생각하는 AI의 다음 핵심 과제는 무엇인가?
체스나 바둑 같은 보드 게임에서는 AI의 역량이 충분히 증명됐다고 본다. 해당 영역에서의 실험은 더 이상 필요하지는 않다고 생각한다. 이제는 보다 높은 복잡도의, 현실적인 문제들에 도전할 시점이다.

체스와 같은 게임은 매우 구체적인 정의가 가능한 영역이다. 모든 결정은 논리적으로 이뤄지고, 정보 역시 온전히 공개된 상태로 게임이 진행된다. 어떤 움직임이 가능하고 어떤 상황에서 체크메이트가 선언되는지 분명한 것이다.

그러나 현실 세계는 이런 모습이 아니다. 현실 속의 모든 의사결정은 상당한 복잡성을 내포하고 있다. 이 영역의 과제나 문제를 다룸에 있어서는, 보다 깊은 층위의 복잡성을 고려해봐야 할 것이다.

컴퓨터 게임 분야에서도 흥미로운 도전들은 가능할 것이다. 이를테면 최근 전문 포커 플레이어와 프로그램 간의 게임 대결이 주목을 받은 사례가 있다. 이 게임에서 흥미로웠던 점은 상대방(인간)의 패에 대한 정보가 감춰진, 불완전 정보를 기반으로 의사결정이 이뤄졌다는 점이다. 불완전한 정보는 의사결정의 복잡도를 증대시키는 요인으로 작용한다. 이런 사례는 이 밖에도 다양할 것이다.

장기적인 관점에서 AI 산업의 목적은 특정 문제를 인간과 같은 수준으로, 혹은 인간보다 뛰어나게 해결하는 시스템을 개발하는 것이 아니다. 우리가 진정으로 원하는 것은, 우리 인간을 보완해주고, 우리의 의사결정에 도움을 주는 시스템이다.

체스 얘기로 돌아가보면, 초기 딥블루를 통해 우리가 달성하고자 했던 목표는 ‘세계 최고의 인간과 대등하게 경쟁할 수 있는' 시스템을 만드는 것이 가능할지를 증명하는데 있었다. 그리고 우리는 인간과 완전히 다른 방식으로 체스를 두는 시스템을 개발하는데 성공했다. 인간의 접근법은 나름의 강점과 약점을 동시에 가지고 있으며, 우리가 활용한 컴퓨터의 접근법 역시 나름의 강점과 약점을 가지고 있다. 그리고 이 둘을 결합한다면 중단기적으로 개별 인간, 혹은 개별 컴퓨터를 능가하는 체스 플레이어를 개발하는 것이 가능하다는 점은 이미 증명됐다.

이 시각은 20년이 지난 지금도 여전히 유효하다. 우리가 얻은 이 교훈은 오늘날 우리가 상상할 수 있는 사실상 모든 현실의 문제들에 적용 가능하다고 생각한다.

의료 활동을 예로 들어보자. 의사는 환자를 진찰해 증상을 파악하고, 관련 처방을 내릴 수 있다. 그런데 이런 그에게 문제를 다른 시각에서 해석하고, 다른 처치법을 제안할 수 있는 조수가 제공된다면 어떤 변화가 있을까? 이 조수는 학계의 모든 최신 논문과 의약 실험을 분석해 인간이 내린 판단과 다른 대안적 진단, 처방을 제안할 수 있다. 물론 이 경우에도 해당 제안을 고려하고 수용, 거부하는 최종 결정권은 인간의 몫으로 남게 된다. 이런 협력의 구조는 두 존재가 각각 기능하는 것 이상의 시너지를 창출하며 우리의 사고를 확장해줄 것이다.

최종 결정권은 인간의 몫으로 남게 되는 이런 증강 지식 시스템이 상용화될 경우, 책임소재와 관련한 법적 논쟁이 발생하지는 않을까?
일단 앞서 의료 활동을 예로 들었지만, 우리 삶의 모든 문제들이 생사와 관련한 것은 아니라는 점을 덧붙이고 싶다. 영화나 책을 추천해주는 시스템이라면, 그것의 실수가 세상을 망쳐버리는 일은 없을 것이다. 물론 의료 활동처럼 의사결정의 중요성이 매우 큰 영역도 분명 존재한다. 이와 관련해 개인적으로 할 수 있는 제안이라면, 앞으로도 한동안 판단의 근거를 분석하고 최종 의사결정을 내리는 역할은 인간에게 맡겨져야 한다는 정도인 것 같다.

하지만 우리 인간이 다른 존재가 제안하는 대안의 합리성을 분석하고 그것의 장단점을 이해하는데 보다 익숙해질 경우, 장기적으로는 최종 의사결정의 품질에 분명한 개선이 있을 것이라 생각한다.

앞서 딥블루의 버그 검증에 관해 이야기했지만, 최신 세대의 AI들은 그 이해나 감사 과정이 딥블루에 비해 한층 어려워진 것이 사실이다. AI가 어떤 검색과 판단 과정을 거쳐 우리에게 해답을 전달하는지를 회귀분석할 수 없어지는 것이다. 특히 위에서 강조한 현실 세계의 문제들과 관련해서는 그 어려움이 한층 심화될 것으로 보인다.
 

2017.05.15

인터뷰 | 어느덧 20주년··· 딥블루 개발자와 나눈 AI 이야기

Peter Sayer | IDG News Service

1997년 5월 11일, 세계인이 즐기는 한 게임 분야에서 컴퓨터가 인간을 넘어서는 일이 발생했다. 카네기 멜론 대학이 칩테스트(ChipTest)라는 이름의 시스템으로 개발한 IBM의 딥블루(Deep Blue)가 세계 체스 챔피언 개리 카스파로브(Garry Kasparov)와의 대국에서 승리를 거뒀던 것이다.

당시 딥블루 개발팀의 일원이던 머레이 캠벨이 IDG 뉴스 서비스와의 인터뷰를 통해 인공지능에 대한 시각을 공유했다. 컴퓨터가 인간과 대등한, 혹은 인간을 능가할 수 있는 영역들을 진단하는 한편, 미래에의 의미에 대한 것들이다. 주요 인터뷰 내용은 다음과 같다.



IDGN : 딥블루 런칭에 맞춰 IBM에 합류했다는 소개가 옳은 내용인가?
머레이 캠벨(MC): 완전히 옳은 표현은 아닌 것 같다. 당시 난 피츠버그 카네기 멜론 대학 소속이었고, 1989년 동료들과 함께 IBM에 합류하게 됐다. ‘딥블루'라는 이름이 쓰이기 시작한 것은 그로부터 일 년 뒤다.

그렇다면 딥블루 프로젝트에 전속으로 참여한 것인가?
입사 후 세계 챔피언십이 치러진 1997년까지는 내 역할이었다. 우리는 딥블루를 개발하고, 개선하는 작업을 진행해나갔다.

딥블루에 말을 직선으로 옮기도록 하는 버그가 존재했고, 그것이 카스파로브에게 혼란을 줘 패배를 야기했다는 의견도 있다. 사실인가?
근거 있는 의견이라고 확언하긴 어려울 것 같다. 당시 상황을 설명하자면, 1회전 후반부, 딥블루는 패배가 예견되는 상황이었다. 딥블루에게 불리한 판세 속에서 몇 수가 오갔고, 카스파로브 역시 승기를 읽고 있었을 것이다. 카스파로브는 분명 이기는 수를 알고 있었다고 본다. 그런 상황 속에서 딥블루는 버그로 인해 예측하지 못한 수를 두게 된다. 분명 잘못된 수였고, 카스파로브가 대응수를 뒀을 때 우리는 패배를 선언했다.

이 1차전에 관해 일부에서는 카스파로브가 딥블루의 사고방식과 역량을 제대로 이해하는데 방해를 줬다고 이야기하기도 한다. 그러나 개인적으론 이런 의견은 어디까지나 추측일 뿐이라 생각한다.

해당 버그는 어떻게 발생한 것인가? 당시 관련 원인을 이해할 수 있었나?
일단 원인은, 이해 가능했고 수정 역시 이뤄졌다. 수정의 경우 2차전이 끝난 뒤에야 가능했기에 결국 한 차례 더 버그가 존재하는 상황에서 대국을 치른 셈이다. 다행히 발생 빈도가 낮은 버그였기에 2차전에서는 문제가 발생하지 않고 게임 진행이 가능했다.

분석에 따르면 버그는 특정 상황 하에서 발현되는 것이었다. 딥블루는 말 이동 계산에 시간 제한을 설정하고 있었는데, 해당 시간을 전부 소모할 경우 말을 랜덤으로 이동시키는 문제가 발생했다. 해당 버그는 대국 수 개월 전 이미 확인된 내용이었고, 팀 내부에서는 이미 수정된 내용으로 파악하고 있던 부분이다. 돌이켜보면 버그 동작을 야기하는 상황은 5가지였는데, 우리는 그 중 4가지를 수정하고 하나를 놓친 것으로 보인다. 그리고 그 하나가 첫 대국에서 발생하게 된 것이다.

당시의 대국 이후, 딥마인드(DeepMind)의 알파고(Alpha Go)는 세계 바둑 최고수로 등극했고, IBM의 왓슨(Watson)은 그보다 먼저 제퍼디 챔피언 자리에 올랐다 본인이 생각하는 AI의 다음 핵심 과제는 무엇인가?
체스나 바둑 같은 보드 게임에서는 AI의 역량이 충분히 증명됐다고 본다. 해당 영역에서의 실험은 더 이상 필요하지는 않다고 생각한다. 이제는 보다 높은 복잡도의, 현실적인 문제들에 도전할 시점이다.

체스와 같은 게임은 매우 구체적인 정의가 가능한 영역이다. 모든 결정은 논리적으로 이뤄지고, 정보 역시 온전히 공개된 상태로 게임이 진행된다. 어떤 움직임이 가능하고 어떤 상황에서 체크메이트가 선언되는지 분명한 것이다.

그러나 현실 세계는 이런 모습이 아니다. 현실 속의 모든 의사결정은 상당한 복잡성을 내포하고 있다. 이 영역의 과제나 문제를 다룸에 있어서는, 보다 깊은 층위의 복잡성을 고려해봐야 할 것이다.

컴퓨터 게임 분야에서도 흥미로운 도전들은 가능할 것이다. 이를테면 최근 전문 포커 플레이어와 프로그램 간의 게임 대결이 주목을 받은 사례가 있다. 이 게임에서 흥미로웠던 점은 상대방(인간)의 패에 대한 정보가 감춰진, 불완전 정보를 기반으로 의사결정이 이뤄졌다는 점이다. 불완전한 정보는 의사결정의 복잡도를 증대시키는 요인으로 작용한다. 이런 사례는 이 밖에도 다양할 것이다.

장기적인 관점에서 AI 산업의 목적은 특정 문제를 인간과 같은 수준으로, 혹은 인간보다 뛰어나게 해결하는 시스템을 개발하는 것이 아니다. 우리가 진정으로 원하는 것은, 우리 인간을 보완해주고, 우리의 의사결정에 도움을 주는 시스템이다.

체스 얘기로 돌아가보면, 초기 딥블루를 통해 우리가 달성하고자 했던 목표는 ‘세계 최고의 인간과 대등하게 경쟁할 수 있는' 시스템을 만드는 것이 가능할지를 증명하는데 있었다. 그리고 우리는 인간과 완전히 다른 방식으로 체스를 두는 시스템을 개발하는데 성공했다. 인간의 접근법은 나름의 강점과 약점을 동시에 가지고 있으며, 우리가 활용한 컴퓨터의 접근법 역시 나름의 강점과 약점을 가지고 있다. 그리고 이 둘을 결합한다면 중단기적으로 개별 인간, 혹은 개별 컴퓨터를 능가하는 체스 플레이어를 개발하는 것이 가능하다는 점은 이미 증명됐다.

이 시각은 20년이 지난 지금도 여전히 유효하다. 우리가 얻은 이 교훈은 오늘날 우리가 상상할 수 있는 사실상 모든 현실의 문제들에 적용 가능하다고 생각한다.

의료 활동을 예로 들어보자. 의사는 환자를 진찰해 증상을 파악하고, 관련 처방을 내릴 수 있다. 그런데 이런 그에게 문제를 다른 시각에서 해석하고, 다른 처치법을 제안할 수 있는 조수가 제공된다면 어떤 변화가 있을까? 이 조수는 학계의 모든 최신 논문과 의약 실험을 분석해 인간이 내린 판단과 다른 대안적 진단, 처방을 제안할 수 있다. 물론 이 경우에도 해당 제안을 고려하고 수용, 거부하는 최종 결정권은 인간의 몫으로 남게 된다. 이런 협력의 구조는 두 존재가 각각 기능하는 것 이상의 시너지를 창출하며 우리의 사고를 확장해줄 것이다.

최종 결정권은 인간의 몫으로 남게 되는 이런 증강 지식 시스템이 상용화될 경우, 책임소재와 관련한 법적 논쟁이 발생하지는 않을까?
일단 앞서 의료 활동을 예로 들었지만, 우리 삶의 모든 문제들이 생사와 관련한 것은 아니라는 점을 덧붙이고 싶다. 영화나 책을 추천해주는 시스템이라면, 그것의 실수가 세상을 망쳐버리는 일은 없을 것이다. 물론 의료 활동처럼 의사결정의 중요성이 매우 큰 영역도 분명 존재한다. 이와 관련해 개인적으로 할 수 있는 제안이라면, 앞으로도 한동안 판단의 근거를 분석하고 최종 의사결정을 내리는 역할은 인간에게 맡겨져야 한다는 정도인 것 같다.

하지만 우리 인간이 다른 존재가 제안하는 대안의 합리성을 분석하고 그것의 장단점을 이해하는데 보다 익숙해질 경우, 장기적으로는 최종 의사결정의 품질에 분명한 개선이 있을 것이라 생각한다.

앞서 딥블루의 버그 검증에 관해 이야기했지만, 최신 세대의 AI들은 그 이해나 감사 과정이 딥블루에 비해 한층 어려워진 것이 사실이다. AI가 어떤 검색과 판단 과정을 거쳐 우리에게 해답을 전달하는지를 회귀분석할 수 없어지는 것이다. 특히 위에서 강조한 현실 세계의 문제들과 관련해서는 그 어려움이 한층 심화될 것으로 보인다.
 

X