인터뷰 | 어느덧 20주년··· 딥블루 개발자와 나눈 AI 이야기

좋은 지적이다. 오늘날 AI가 내포한 가장 중요한 문제 가운데 하나가 그것이다. 그간 우리는 특정 문제에 맞춰 훈련된 대규모 신경망이나 딥러닝 분야에서 여러 성공 사례를 발굴해왔고, 그것들의 현실적 실용성도 분명이 입증된 상태다. 하지만 여기에는 거대한 사각지대가 존재한다. 인공지능 스스로도 자신의 의사결정에 관해 ‘설명'하지는 못한다는 점이다.

이 문제를 해결하려는 연구 프로젝트는 딥블루 시절부터 진행된 바 있는 내용이다. 딥블루의 경우에는 신경망 기반이 아닌 수 십억의 가능성을 분석하는 대형 검색 기능의 측면이 컸지만, 이에 관해서도 그 판단 기준을 해석할 현실적 방안은 마련하지 못했던 기억이 있다. 만일 우리가 본격적으로 딥블루가 제안한 내용을 이해하고 그 판단 근거를 이해하려 했다면, 무척 많은 노력이 필요했을 것이다.

당시 내가 속한 팀의 핵심 연구 과제 중 하나는 AI를 해석하는 작업이었다. AI가 스스로를 설명하도록 함으로써 증강 지능 시스템과 인간 의사 결정권자 간의 논리적 커뮤니케이션을 구현해 효율성을 증진한다는 구상이었다.

해당 목표를 위해 구체적으로 어떤 접근법을 취했나?
머신러닝 자체의 해석을 돕는 머신러닝 방법론을 연구하는 시도가 있었다. 의사결정 혹은 예측을 제시하는 시스템에 더해, 해당 시스템의 판단기준을 인간이 이해 가능한 방식으로 해석해 해당 결정이 어떤 측면에서 이뤄졌고, 어떤 이유로 적절한 것인지를 설명할 도구를 구성한다는 아이디어였다. 실제 개발이 이뤄졌다면 상당한 비용을 소요했을 것이라 생각한다. 이 추가적 시스템이 제공하는 각종 결정 및 설명 사례를 통해 우리는 유효한 해석 방법론에 대한 시각을 확보할 수 있을 것이다.

이외의 방식으로는 몇 가지 표준적 머신러닝 접근법으로서, 고려할 수 있는 규정들에 기반한 높은 해석가능성의 시스템들을 개발하는 것도 생각해볼 수 있다. 규정이란, 예를 들자면 온도가 특정 기준을 넘어서고, 습도가 이런저런 상황이면 인간이 불쾌감을 느낀다는 식의 판단기준을 의미하는 개념으로, 우리 인간이 매우 직관적으로 받아들일 수 있는 대상이라는 장점이 있다.

단 여기에 역시 한계가 존재한다. 현실 세계의 문제들은 그 복잡도가 매우 높아 단순한 규정 설정만으로는 해석에 한계가 있다. 많은 이들이 이를 중요한 연구 주제로 삼고 있는 이유 역시 여기 있다고 본다. 해석에서 중요한 점은 그것의 신뢰성뿐 아니라, 유용성 역시 고려해야 한다는 점이다. 이 두 요소 간의 고려가 현재 우리가 고민하고 있는 부분이다.

앞서 법적 책임에 관한 내용도 언급됐다. 해석의 신뢰성을 보증하고 AI 시스템의 판단을 법률 절차 상의 신뢰 기준과 연결 짓기 위한 시도 역시 진행 중일까?
기술을 넘어 법적 관점에서 시스템을 바라보는 질문으로 드린다. 기본적으로는 내 지식만으론 답변이 어려운 부분 같다. 그럼에도 아는 한도에서 답변해보자면, 해당 문제는 ‘의사결정'과 관련한 부분이고, 앞으로도 수십 년간은 그 최종적 책임이 인간에게 맡겨져야 한다는 입장이다.

컴퓨터는 의미 있는 제안, 그리고 나아가서는 그 제안에 관한 설명을 제공할 수 있는 존재지만, 그 역할은 어디까지나 도구적 역할에 한정돼야 한다. 그리고 궁극적으로 책임을 지는 것은 인간 의사결정권자가 되어야 할 것이다.

컴퓨터가 인간을 보조하는 구조에 대한 구체적 사례나, 해당 구조가 적용될 수 있는 구체적 영역들에 관한 소개를 부탁한다.
앞서 언급한 의료 분야를 좀 더 구체적으로 예증해보자. 딥러닝 접근법을 활용해 IBM에서 우리는 피부암 진단 목적의 이미지 인식 시스템을 개발한 바 있다. 피부 병변 사진을 입력하면 해당 병변의 특성을 확인, 분류하는 시스템이다. 분류 정확도는 상당한 수준으로, 많은 경우 인간 전문가보다도 높은 정확도를 구현하고 있다.

하지만 환자의 전체 이력을 이해하는 것은 이 시스템으로 진행할 수 없는 작업이다. 결국 실제 환자를 진단하고 관련 정보를 시스템에 입력하는 의사의 역할은 여전히 필요한 것이다. 더불어, 시스템을 통해 ‘피부암으로 악화될 가능성이 85%’로 분석된 병변이라도, 개인의 특성에 따라 단순 병변으로 남아있을 가능성 역시 15%의 확률로 존재한다. 이러한 세부적 진단을 위해 환자를 진찰하고 그의 이력을 살피는 일을 맡는 것은 언제까지나 의사다.

개인적으로 흥미 있게 접한 또 다른 사례는 일명 ‘노년의 공간'이라 불리는 작업이다. 이는 노년층을 타깃으로 한 일종의 스마트 홈으로, 각종 센서와 사물인터넷 테크놀로지, 그리고 해당 센서들을 AI 기반 시스템이 갖춰진 공간이다. AI 시스템은 센서를 통해 문제 상황으로 추측되는 이상 징후들을 포착하고 보호자에게 경고 알림을 전달하는 역할을 한다.

현대인들은 자신의 주의를 어디에 쏟을지 혼란스러워하고 있다. 이런 우리에게 시스템은 우리가 집중해야 할 부분을 알려주는 보조자로서, 협업적 구조를 구성하는 핵심 축으로 기능할 것이다.

개인적으로 보기에, 오늘날 AI 산업에서 전개되고 있는 활동 가운데 본인의 삶에 가장 큰 영향을 미칠, 개인적으로 기대하고 있는 작업은 어떤 것인가?
은퇴 후 보다 세부적인 정보들이 관리되고, 내가 그것들을 활용할 수 있는 한층 발전한 ‘노년의 공간'에서 생활할 수 있다면 좋겠다. AI의 발전을 통해 현재는 제한적으로 활용되고 있는 시스템들이 보다 현실적인 가치들을 전달해나갈 것이다.

딥러닝 분야에서 여러 진보들이 목격되고 있지만, 개인적으로는 그 초점이 인지적 요소들에 집중된 점에 아쉬움을 느끼고 있다. 좀 더 설명하자면, 우리에게 전달되는 정보는 이미지나 오디오 클립 등이 대부분이며 우리가 할 수 있는 활동 역시 이미지를 분류하거나 오디오 클립을 기반으로 텍스트를 생산하는 정도라는 말이다.

반면 다단계 논증과 기획, 전략적 사고 분야와 관련한 연구에서는 아직 AI 시스템의 강점이 온전히 발휘되고 있지 못하다고 본다. 앞으로 우리가 집중해야 할 영역은 여기다. 앞서 우리 인간이 집중해야 할 영역을 결정하는데 도움을 주는 AI 시스템의 역할을 이야기한 것과 비슷한 맥락에서, 무언가 중요한 것이 존재한다는 직감이 드는 영역으로 AI의 문제 검증, 방향성 초점을 설정하는 것이 인간의 역할이 아닐까 생각한다.

이후의 10년은 인간의 종합적 역량이 기계의 역량과 조화를 이루는 시스템의 시대가 될 것이다. 의료, 교육, 노인 복지까지, 상상 가능한 모든 영역에서 새로운 변화들이 관측될 것이다.

AI 시스템 개발을 직업으로 삼아온 입장에서, 업무 진행 과정에 AI 시스템의 도움을 받은 경우도 있는가?
물론 다양한 툴들을 연구에 활용 중이다. 웹 서치를 비롯해 기술 논문을 검토하는 과정에서 내가 집중해야 할 부분들을 파악하게 해주는 도구의 도움을 받고 있다. 하지만 내가 제시한 질문에 답을 전달한다거나 내게 작업 방향성을 제시해주는, 또는 연구의 수익성이나 실현 가능성의 측면을 분석해주는 활동과 관련해서는 마땅한 툴을 만나보지 못했다. 연구 과정을 개선해주는 AI 툴을 개발해 연구 효율성을 개선한다니, 상당히 흥미로운 프로젝트 아이디어다.

해당 아이디어가 업계의 다음 과제가 될 수 있을까?
충분히 가능성 있다. 물론 산업에서는 수백 만, 수십 억의 일상에 가치를 제공할 여러 현실적 문제가 연구되고 있기에 모두가 이 주제에 관심을 가지지는 못할 것이다. 하지만 AI 연구 커뮤니티 내부에서 정보의 홍수 속에 혼란을 겪는 일은 분명 간과할 수 없는 문제다. 산업에는 매일 수 많은 논문이 쏟아지고 있으며, 불과 5년 전과 비교해도 완전히 다른 모습으로 변화하고 있다. 다른 현실의 영역들과 마찬가지로, 우리 역시 AI의 도움을 필요로 하는 상황이다. ciokr@idg.co.kr