‘살아 있는’ AI를 성공적으로 설계하는 방법

애플리케이션에 ‘살아 있는(living)’ AI를 통합하는 의식적 경험 디자인(Conscious Experience Design) 원칙 3가지와 이를 구현하는 방법을 살펴본다. 

오늘날 거의 모든 애플리케이션에 ‘AI’가 있다고 해도 무방할 것이다. IDC는 2021년에 상용 엔터프라이즈 앱의 75%가 AI를 사용할 것이라고 전망한 바 있다. 

이렇게 AI가 보편화되면서 C-레벨은 AI 전략과 구현에서 더욱더 큰 역할을 맡게 됐다. 포춘의 지난 2020년 6월 보도에 따르면 설문조사에 참여한 전체 응답자의 71%는 소속 기업의 AI 프로젝트를 C-레벨이 이끌고 있다고 말했다.  
 

하지만 C-레벨이 이를 주도하고 있다 하더라도, 많은 기업에서 AI 프로젝트가 더디게 이뤄지고 있다. 그 이유 가운데 하나는 경영진이 AI를 꽂기만 하면 바로 사용할 수 있는(plug-and-play), 즉 구현하기만 하면 즉각 수익을 창출하는 기술로 간주하는 경우가 많기 때문이다. 

이로 인해 기업들은 AI 프로젝트를 전체적으로 확장하기 위해 고군분투하고 있다. 이를테면 개별 비즈니스 과제(예: 고객 세그먼트 개선)에서 더욱더 큰 비즈니스 과제(예: 고객 여정 전반 최적화)로 확장하는 데 어려움을 겪는 것이다. 

애플리케이션에 AI를 통합할 때, 거시적인 목표와 즉각적인 수익에 대한 니즈를 어떻게 조화시킬 수 있을까? AI가 통합된 미래를 설계하려면 과거보다 더 폭넓게 생각해야 한다. 우선, AI에 관한 몇 가지 진실을 알아보자. 

• AI는 생각보다 똑똑하지 않다. 인간보다는 지렁이의 두뇌에 더 가깝다고 한다. 
• AI 편향은 존재하며 갈수록 보편화되고 있다. 
• 스마트 기기와 인간의 상호작용은 인간의 본질, 의도, 가치를 더욱더 염두에 두는 사용자 경험 디자인을 필요로 한다. 

다시 말해, 진정 의식적인 방식으로 인텔리전스를 제품에 적용하려면 단순한 자동화 지표를 넘어서서 생각해야 한다. 이를 ‘의식적 경험 디자인(Conscious Experience Design)’라고 부르는데, 인공지능에 의해 형성된 세계를 대상으로 한 디자인 방법이다. 의식적 경험 디자인은 아래와 같은 질문에 답하는 데 도움을 준다. 

• 인간-기계의 관계는 어떻게 진화하고 있는가? 
• 의식 있는 기계의 특징은 무엇인가? 
• 새로운 접근 방식이 필요할 수 있는 미래의 패러다임 변화는 무엇인가? 
• 현재 그리고 미래에 AI를 통합한 애플리케이션을 설계하려면 어떤 새로운 기술이 필요한가? 

‘의식적 경험 디자인’에는 크게 3가지 원칙이 있고, 이는 AI를 애플리케이션에 통합하는 데 도움을 준다. 3가지 원칙과 이를 구현하는 방법을 소개한다. 

1. 인간의 지능을 강화하고 기대치에 부합하는 디자인 
AI와 함께 앱을 설계할 때, 자연스레 기계 또는 시스템의 지능을 높이는 데 필요한 데이터가 무엇인지 검토하기 마련이다. 하지만 데이터에만 초점을 맞추다 보면 근본적인 단계를 간과할 수 있다. 바로 인간의 지능을 이해하고 능력을 강화하는 것이다. 

AI는 인간의 능력과 잠재력을 강화하기 위한 기술이다. 기계를 학습시키기만 하고 이러한 인간의 니즈와 정렬시키지 않는다면 해당 AI 프로젝트는 실질적인 가치를 제공할 가능성은 거의 없는 헛된 노력이 될 것이다. 

이 문제를 해결하는 방법은 리서치 및 인사이트를 바탕으로 ‘사람’에서부터 시작하는 것이다. 비즈니스 애플리케이션에 AI를 통합하기 전에 이와 관련한 기대치와 해결해야 할 핵심 문제를 파악한다. 또 특정 작업을 자동화할 때 사람들이 언제 어디서 이점을 누릴 수 있는지, 그리고 효과적인 인간-기계 협업을 달성하기 위해 사람들이 어느 정도의 통제권과 기계의 인지 능력을 원하는지 확인해야 한다. 

2. 상호작용이 아닌 ‘몰입’을 위한 디자인 
AI는 살아 있는 시스템이다. 궁극적으로 언제, 어디서, 어떻게 인간을 개입시킬지 알 수 있을 정도로 똑똑해질 것이다. 몰입을 위한 디자인이란 사용자 경험이 자연스럽게 느껴져야 한다는 것을 의미한다. 

이러한 수준의 몰입에 도달하려면 백엔드에 있는 기술이 사람들로부터 학습할 수 있어야 하고, 이를 통해 사람들의 니즈를 즉각적으로 알아차리는 시스템이 돼야 한다. 그리고 프론트엔드에서는 마찰 없는 상호작용을 생성해야 한다. 이를테면 사용자가 마우스 잡기보다는 음성으로 소통하도록 하라. 더 적은 노력으로 참여할 수 있는 몰입적 경험을 고려해야 한다. 

한편 사용자들은 이렇게 상호작용하는 시스템이 기능적이고 기계적인 게 아니라 진짜 살아 있는 것처럼 느끼길 원한다. 이를 위해서는 시스템의 감성 지능, 즉 EQ(Emotional intelligence) 그리고 이것과 상호작용할 인간의 감정을 고려해야 한다. 

예를 들면 음성인식 기술은 사람의 표정에서 얻을 수 있는 감정을 알아차리기 어려울 것이다. 사람들이 무엇을 생각하고 어떻게 느끼는지 이해하는 것은 믿을 수 없을 정도로 미묘하다. ‘멀티모달 인터랙션(multi-modal interaction)’ 개념을 알고 있을 것이다. 동일한 개념이 여기에 적용된다. 이를 통해 시스템이 사람에게 다가가야 한다. 사람이 시스템에 다가가는 것이 아니다. 

3. 제품이 아닌 ‘사람’과 ‘시스템’을 위한 디자인
제품이나 사용자 접점에만 중점을 두기 쉽다. 하지만 이 새로운 지능형 기술의 시대에서 우리는 사실상 전체 시스템의 일부로 작동하는 무언가를 만들고 있다. 

즉 누군가와 상호작용하는 노드는 시스템의 한 측면에 불과할 수 있겠지만 시스템적으로는 영향을 갖는다. 예를 들면 블록체인은 네트워크 전체의 인텔리전스를 활용하여 보안을 평가하고 판단한다. 단일 노드를 사용하는 대신 분산 컴퓨팅의 이점을 활용하는 것이다. 

또한 AI 지원을 위한 설계는 모든 유형의 기기나 제품에 동일한 파급 효과를 발생시킨다. 이를테면 자동차에 AI 지원을 위해 쓰였던 설계가 이제는 모빌리티와 사람을 운송하는 것에 사용되는 것이다. 

이 밖에 시스템적 사고는 ‘나쁜 인공지능(bad AI)’이 생성되는 것의 사회적 의미로도 확장될 수 있다. AI는 정보를 주입하는 사람의 성격을 반영하고, 따라서 이를 구축하는 사람의 편향을 수용할 것이다. 단순히 이 사실을 인지하는 것만으로 설계자는 편향을 피할 수 있다. 
 
‘의식적 경험 디자인’을 실행에 옮기기 
그렇다면 앞서 살펴본 원칙들을 어떻게 실행에 옮길 수 있을까? 다음의 전략적 단계를 이행하라. 

• 리서치: 내부 및 외부 리서치를 통해 고격 경험 여정을 평가하고 매핑하라. 애플리케이션을 사용할 고객 및 직원을 인터뷰해야 한다. 이를테면 애로사항, 관심사, 일상적인 업무에서 좋은 부분과 나쁜 부분 등을 질문하라. 

또한 이들은 AI가 자신을 무의미하게 만들 것이라고 우려하는가? 아니면 AI가 성공할 수 있는 더 많은 방법을 제공하리라 생각하는가? AI를 사용할 사람을 이해하는 것은 프로젝트의 성공에 결정적이다. 이는 AI에 의해 지원될 솔루션의 결함과 기회를 식별하는 가장 빠른 길이다. 

‘AI를 원하는 이유가 무엇이고, 어떤 문제를 진정으로 해결하고 싶은가?’라는 질문에 간단명료하게 답하지 못하는 AI 설계자가 많다. 이 중요한 질문에 답하기 위해 리서치를 해야 한다. 가장 큰 결함이 무엇이고 즉각적인 가치를 창출할 수 있는 가장 큰 기회가 무엇인지 파악한다면 어디에 집중해야 할지 아는 데 도움이 된다. 

• 상상하고 구체화하라: 리서치에서 특정 문제를 발견했다면 이와 관련된 각 기회의 구체적인 의도와 결과를 파악해야 한다. 이를 위해서는 회사 내부의 여러 이해관계자와 협력해야 한다. 이를테면 예상하고 있는 사용자가 얻을 명확한 가치가 무엇인지 검토한다. 또한 잠재적 위험과 부작용을 평가하고 진단해야 한다. 

다양한 이해관계자와 협력하면 시스템과 비즈니스에서 AI가 낼 수 있는 결과를 한층 더 잘 이해할 수 있다. 위에서 언급한 것처럼 AI가 의도한 영역뿐만 아니라 예상치 못한 영역에서도 파급 효과를 생성할 수 있어서다. 

• 영향을 평가하라: AI를 통합하려는 목적과 잠재적인 결과를 파악했다면 이제 성취할 가능성이 가장 높으면서도 가장 영향력이 큰 옵션의 우선순위를 정해야 한다. 외부 영향(예: 고객, 프라이버시 우려 등)과 내부 영향(예: 실행 가능하고 지속 가능한 AI 통합 등)도 고려해야 한다. 

그리고 각 프로젝트와 관련해 ‘프로젝트를 실제로 진행할 준비가 됐는가?’, ‘무엇이 부족한가?’, ‘전문가가 필요한가?’, ‘얼마나 투자할 수 있는가?’, ‘목표 달성을 방해하는 것은 무엇인가?’, ‘이 특정 프로젝트에 AI를 통합한다면 긍정적 결과를 가져올 수 있는 시나리오는 무엇인가?’, ‘잠재적인 부정적 결과는 무엇인가?’ 등을 질문하라. 내·외부적으로 미칠 수 있는 영향과 실행 가능성이 교차하는 프로젝트에 우선순위를 부여한다면 성공 확률이 높아질 것이다. 

• AI 인터랙션을 매핑하라: 이 단계에서는 다시 핵심으로 내려가 시스템과 데이터 집합의 상호작용 또는 투명성 수준을 결정해야 한다. 암묵적인 상호작용을 할 것인가? 아니면 명시적인 상호작용을 할 것인가? 

후자(명시적 상호작용)의 대표적인 예는 인간처럼 구현한 아마존의 알렉사(Alexa)다. 암묵적인 AI는 인텔리전스가 전적으로 배후에서 일어난다는 것을 의미하며, 사용자는 이게 이뤄지고 있다는 사실조차 알아차리지 못한다. 

따라서 AI 기술의 어느 부분을 사용자에게 가시적으로 만들 것인지, 사용자가 AI와 어느 정도로 상호작용할 것인지를 결정해야 한다. AI가 백엔드 시스템이어서 명시적 상호작용이 불필요한가? 또는 음성, 카메라, 타이핑을 통해 사용자와 직접적인 상호작용을 하는가? AI는 어느 정도 친근하게 느껴져야 할까? 

• 데이터 전략을 정의하라: 매우 중요한 단계다. 인공지능은 데이터에 의해 움직인다. 따라서 이 데이터를 수집, 관리, 저장, 사용, 공유하는 방법을 결정하는 명확한 데이터 전략을 파악하고 정의해야 한다. 또 이러한 전략은 팀이나 제품에 관한 일관된 가이드 및 공통의 기본 프레임워크 역할을 한다. 고객 데이터를 보호하면서 비즈니스를 지원할 방법을 명시하는 게 필수적이다. 

이 과정에서 데이터 과학자와 데이터 옹호론자가 중요하다. 사용자 친화적인 데이터 수집 방법과 사용자와 이해관계자에게 데이터를 제공하는 가장 효과적이고 유익한 방법을 설계하는 데 도움을 주기 때문이다. 이 밖에 데이터 지표와 시스템 매개변수를 설정할 때는 다양한 팀이 참여해야 한다. 공평한 데이터를 사용하여 데이터 편향을 피하는 방법을 모색하는 것도 필요하다. 

AI 설계와 관련해서는 시작과 끝이 없다는 것을 기억하라. 모니터링, 관리, 지속적인 발전에 필요한 데이터를 영구적으로 공유하면서 그야말로 살아 있는 시스템을 생성하는 것이기 때문이다. 여기서 약술한 의식적 경험 디자인의 원칙과 전술적 단계를 적용한다면 ‘살아 있는’ AI 시스템을 성공적으로 설계할 수 있을 것이다. ciokr@idg.co.kr