Offcanvas

AI / CIO / How To / 디지털 트랜스포메이션 / 머신러닝|딥러닝

가트너 기고 | ‘혼란을 넘어서 성공으로’ 경영진이 나눠야 할 AI 대화 6단계

2022.03.31 Dave Aron  |  CIO KR
‘지나치게 기대치가 높다. 그러나 가치 및 변화를 충분하게 창출하지 못한다.’ 인공지능은 이와 관련해 길고도 파란만장한 역사를 가지고 있다. 때로는 긍정적이고 때로는 부정적인 논조의 과장된 언론 보도들은 AI에 대한 혼란, 회의감, 그리고 당황스러움을 안겼다. 결국 기업들은 AI에 대한 불신을 갖게 되었다.

그러나 스마트 제조, 챗봇 및 대리인, 사기 탐지 등 특정 비즈니스 기회 및 문제에 대해 AI 기술의 제한적으로 적용한 결과, AI의 강력하고 긍정적인 현실을 뒷받침하는 수많은 증거들이 출현하고 있다. 아쉽게도 이에 대한 사례 연구, 특히 진정으로 변혁적인 연구들은 비교적 매우 드물다. 우리는 그저 구글 딥마인드(DeepMind)의 알파고가 보드게임에서 세계 챔피언을 이기는 것과 같은 예시를 계속 듣게 될 뿐이다. 이는 대다수의 조직이 AI의 기회를 충분히 활용하지 못하고 있기 때문이다.

여기에는 인재, 기술의 성숙도 문제를 포함해 여러 가지 이유가 있다. 그러나 특히 큰 문제 중 하나는 조직 내 어디에서, 그리고 어떻게 AI를 사용할 것인지에 대한 이해와 수준 높은 의사결정이 부족하다는 것이다.

가트너는 모든 조직이 일련의 6가지 (AI) 대화를 진행해야 한다고 제안한다. 첫 3가지는 CIO가 주도하는 것을 목적으로, AI가 무엇인지, 어디에 적용 가능한지, 그리고 위험이 무엇인지에 대한 공통의 이해를 구축하기 위한 것이다. 그 다음 3가지는 CIO를 포함한 조직의 비즈니스 리더가 주도해야 하는 대화다. 이는 집중할 부분을 선택하고, 정책을 수립하며, 궁극적으로 비즈니스 전략의 모든 측면에 AI를 구축하는 메커니즘으로 이어져야 한다.

대화 1 : (비즈니스 측면에서) AI란?
어떤 대상이 무엇이고 어떻게 사용할 것인지에 대한 공통된 이해가 없다면 AI에 대해 좋은 결정을 내리는 것은 불가능하다. 따라서, 첫 번째 대화에서는 회사나 정부 기관의 맥락에서 AI가 어떤 것인지 논의해야 한다.

가트너를 비롯해 업계에서 사용하는 AI 정의를 동일하게 사용할 필요는 없다. 다만, 외부 문헌을 읽을 수 있고 제3자와 쉽게 작업할 수 있다는 점에서, 유사한 정의를 사용하게 되면 얻게 되는 장점이 있다. 중요한 것은 비즈니스의 리더십 내에서 그리고 궁극적으로는 조직 전체를 아울러 공통된 이해를 얻게 된다는 점이다.

가트너는 AI를 다음과 같이 정의하고 있다. “인공지능은 이벤트를 분석하고 의사결정을 지원 및 자동화하며 이를 수행하기 위해 머신러닝을 포함한 향상된 분석과 논리 기반의 기술을 적용한다.”

모든 비즈니스 리더가 추상적인 개념과 정의에 익숙한 것은 아니다. 따라서 공감할 수 있는 실사용 예시를 토대로 대화 나누는 것이 매우 중요하다. 도움이 될 수 있는 한 가지 접근법은 AI를 몇 가지 범주로 나누는 것이다. AI라는 용어는 모호하고 광범위하다. 가트너가 사용하는 분류 중 하나는 AI를 3가지 유형으로 나누는 것이다:

1. 인간과 같은 방식으로 관여하는 시스템. 여기에는 컴퓨터 비전, 챗봇 및 대리인, 자연어 인터페이스가 포함된다.
2. 인간의 개입 없이도 스스로 조작하고 의사결정을 하거나 스스로 개선하는 시스템. 예를 들어, 실시간으로 새로운 위협을 학습하고 보호하는 자동 최적화 스마트 머신, 자율 주행 차량 및 탐지 시스템이 있다. 
3. 심층신경망(Deep Neural Networks)과 같은 인사이트를 창출하기 위한 향상된 기술. 우리는 이러한 것들을 비공식적으로 "스테로이드 분석학(analytics on steroids)"이라고 부를 수 있다. 예를 들어, 해당 기술들은 예측 및 시장 세분화, 약하거나 숨겨진 신호 청취 등에 사용될 수 있다.

이 첫 번째 대화를 통해 도출되는 성과는, AI가 비즈니스에 의미하는 바가 무엇인지, AI가 어디에 도입될 수 있는지에 관해 고위 비즈니스 리더들이 합의 및 이해할 수 있는 비교적 명확한 설명이어야 한다. 이러한 서술은 비즈니스에서 가능한 한 널리 확산되어야 한다.

대화 2 : 인공지능은 결과를 달성하기 위해 어떻게 인간과 함께 일하는가?
두 번째 대화는 AI가 비즈니스에서 인간과 어떻게 작동하는지에 대한 것이어야 한다. AI가 인력을 대체할 수 있을 것인가? 또한, 인간 노동자들에게 AI가 도움이 되는가? AI는 인간 노동자들과 함께 일할 수 있는가?

자동화에 대한 애플리케이션 및 업계 고유의 접근법들이 있지만 가트너가 제안하는 일반적인 설명 프레임워크는 다음과 같다.

1. 인간을 위한 기계 지원을 제공하는 것은 아니다(There is no machine assistance for the human).
2. 기계는 실제로 결정을 내리고 행동을 취하는 인간에게 인사이트를 제공한다. 예를 들어, 심층신경망은 다른 고객 세분화를 제안할 수 있다.
3. 인간과 기계는 적시에 서로에게 지휘봉을 넘기며 함께 일하고 행동한다. 예를 들어, 챗봇은 고객과 상호작용하지만, 예외적인 상황이 발생하면, 인간 에이전트에게 고객과의 대화를 넘긴다.
4. 인간이 없는 상태에서도 기계는 작업을 완전히 떠맡고, 의사 결정을 내리며, 행동을 취한다. 예를 들어, 농업용 드론은 밭 위를 날아다니며 농작물을 실시간으로 분석하고 각 식물이 필요로 하는 영양소와 살충제를 정확히 전달한다.

이 두 번째 대화의 성과물은 AI 자동화 수준을 논의하기 위한 공통된 언어여야 한다. AI 자동화 수준은 유익함과 위험성의 수준을 결정하는 큰 요인이기 때문에 비즈니스 리더가 AI 자동화 수준에 대해 이야기할 수 있는 언어를 확립하는 것이 중요하다.

대화 3 : AI는 얼마나 명료할까?
가트너가 제안하는 세 번째 대화는 CIO가 주도할 마지막 대화로, AI의 명료성 수준을 논의해야 한다. 오늘날 진보적이고 강력한 AI 솔루션 중 일부는 딥러닝 신경망을 사용하는데, 이는 여러 면에서 설명이 없어도 마술처럼 좋은 인사이트를 만들어 내는 블랙박스와 같다.

가트너는 명료성과 비즈니스 가치 창출 간의 균형을 보다 정확하게 설명하고 논의하기 위한 4단계 모델을 제안한다.

1. 인간의 명령. 인간에 의해 완전히 이해되며 주어진 상황에서 완전히 예측 가능하게 행동하는 AI 유형의 구성요소가 있다. 보통 AI라고 불려지지 않지만, 전문 시스템군(expert systems)이 이 범주에 해당한다. 전문 시스템은 인간 전문가의 행동을 관찰하고 모방하려는 시도를 바탕으로 인간에 의해 설계된 일련의 규칙을 따른다.
2. 인간의 이해. 알고리즘을 생성하는데 사용되는 AI 기법들이 있지만 이러한 알고리즘은 인간에 의해 완전히 이해된다. 유전학적 알고리즘은 종종 알고리즘 집단을 생성하고 짝짓기와 돌연변이를 일으키는 점에서 매우 기발한 일을 할 수 있다. 하지만 최종 알고리즘은 비교적 단순하고 인간의 응시 및 기존 통계 분석 모두에 민감하게 반응할 수 있다.
3. 인간의 테스트. 인간이 이해하는 것보다 약간 더 불투명한 시스템은 이 범주에 속하는데 인간에 의해 완전히 검사되고 이해될 수 없지만 모든 상황에서 어떻게 작동하는지 확인하기 위해 철저히 테스트될 수 있다.
4. 인간의 제약. 이런 종류의 시스템은 인간에 의해 설명될 수도 없고 철저히 테스트되기도 어렵다.  설치된 후 학습과 적응을 계속해 나가는 AI 기반 시스템이 이 범주에 속한다. 이러한 시스템은 강력할 수 있지만, 일반적으로 매우 위험하다. 대부분의 조직에서는 핵심 일원으로 사람이 있는 경우와 같이 리스크가 낮은 상황에서만 도입할 수 있다.

대화 2와 마찬가지로, 이 대화의 결과물은 AI 명료성 수준을 논의하기 위한 공통된 언어여야 하며, 이상적으로는 몇 가지 수준에 기반을 둬야 한다. 대화 2와 3의 결과물은 아래 대화 5에서 사용된다.

대화 4 : 어떤 AI 기반 비즈니스 기회를 추구해야 하는가?
대화 1에서 소개된 AI 유형론을 사용하여 고위 리더십은 내부 가치 사슬의 모든 영역과 조직의 생태계에 걸쳐 추구해야 할 AI 이니셔티브를 식별하고 우선 순위를 정해야 한다. 이는 태스크포스(TF) 및/또는 일련의 브레인스토밍 이니셔티브에 의한 창조적 사고 및 분석 활동을 통해 알려야 한다.

그런 다음 비즈니스 리더는 생산적인 대화를 통해 비즈니스의 모든 요소에 걸쳐 가치와 리스크의 균형을 유지하는 AI 주도 이니셔티브 로드맵을 작성해야 한다. 이 대화의 직접적 결과물은 완전한 로드맵이 아니라, 향후 추진해야 할 이니셔티브 포트폴리오로 발전할 수 있는 지점에 초점을 둘 수 있는 고차원적인 관점이 될 수 있다. 이는 AI가 있어야할 곳이 “어디?”라는 질문에 대한 답변이 된다. 

대화 5 : 얼마나 대담하게 AI를 활용할 준비가 되어 있는가?
대화 2와 3에서 소개한 자동화 및 명료성 분류를 통해, 고위 리더들은 어떤 유형의 AI가 비즈니스 영역에서 사용될 수 있는지에 대한 견해를 수렴할 수 있다. 특정 애플리케이션에서 사용되는 AI 유형을 제한하는 데 사용될 정책에 대해 고차원적인 설명을 할 수 있다.

이 다섯 번째 대화의 결과물은 높은 수준의 정책 체계가 되어야 한다. 각 비즈니스 리더는 AI 관련 이니셔티브에 이 체계를 사용해야 한다. 불가피하게 이것에는 예외와 회색 영역이 존재하지만 체계는 적절한 위험/수익 균형을 유도하는 데 있어 중요한 것으로 입증되어야 한다.

대화 6 : AI 관련 리스크를 어떻게 관리하고 완화할 것인가?
마지막 대화는 AI 관련 위험에 대한 높은 수준의 논의다. AI에 의한 이니셔티브는 모든 투자, 그리고 실제로 새로운 기술과 접근방식을 사용하는 모든 투자에서 표준적인 위험 요소를 고려하곤 하지만 AI는 또한 조금 다르다. 많은 AI 이니셔티브는 새롭고 낯선 위험을 초래한다.

대화 6은 3가지 측면을 포함해야 한다. 첫 번째는 AI 관련 이니셔티브에서 발생할 가능성이 높은 위험의 종류를 식별하는 것이다. 대표적인 범주는 기존의 재무 위험, AI가 컴플라이언스를 위반할 위험, 노동력 관련 문제, 브랜드 인식 및 인간 안전을 포함한다. AI가 노동자들에게 공포를 불러일으킬 수 있는 가능성도 빼놓을 수 없다. 

대화 6에서 논의되는 두 번째 주제는 이러한 위험을 줄이거나 완화할 수 있는 방법이다. 접근법으로는 자동화 및 명료성이 떨어졌던 AI의 유형을 변경하고, 감시 가능성과 모니터링을 높이고, AI 보험을 살펴보는 것이 포함된다. 대화 6에서 다루어야 할 세 번째 주제는 AI와 관련된 책임에 대한 논의이다. 마찬가지로, 윤리강령과 AI 원칙을 개발, 출판 및 고수하는 것이 유용한 접근법이다.

대화 6의 성과는 AI와 관련된 새롭고 특수한 위험과 이를 완화하기 위한 계획된 접근방식을 명확히 표현한 것이어야 한다.

요약하자면, AI는 강력하지만 특유의 형태로 익숙하지 않은 선택, 접근법 및 위험을 야기한다. AI로 승리하기 위해서는 이러한 모든 것이 조직을 통해 표면화되고 논의되며 확산되어야 한다. 이들은 충분한 지식을 갖춘 고위 비즈니스 리더 팀에 의해 이끌어져야 할 정도로 중요하다. 이 6가지 대화는 아주 좋은 출발점을 만들어 준다. 이를 통해, 나머지 기업은 보다 상세한 계획을 수립하고 인재, 컴퓨터 시스템 구성, 그리고 데이터 품질 등의 문제에 관해 중요하면서도 전략적인 질문에 답할 수 있다.

* 데이브 애론(Dave Aron)가트너 특임 VP 애널리스트(Distinguished VP Analyst)다. ciokr@idg.co.kr

 
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.