블로그 | ‘AI 계획’은 잊어라?··· 예벗 박사와 나눈 이야기

어쩌면 AI 전략에 있어 '계획'이라는 부분은 잊어버려야 한다. 무작정 걷는 것이 오히려 낫다.

때로는 역사를 아는 것(무슨 일이 있었는지 기억하는 것)이 실수를 피하게 해준다. 인공지능도 여기에 해당된다. 인공지능을 성공적으로 도입하려면 백미러가 도움이 될 수 있다. 

가령 기업 전체에 개인용 컴퓨터를 원활하게 배포할 수 있는 길을 열어내는 과정에서 IT 부서의 전략 계획 프로세스가 어떤 역할을 했는지 돌이켜보라. 그렇다. 별다른 역할을 하지 않았다. 당시의 IT 부서는 새로운 기술을 철저히 무시했다. 놀랍게도 회계 및 재무 분석가를 선두로 한 현업 사용자들이 PC와 전자 스프레드시트를 도입한 반면 IT 부서는 이를 외면하고 때로는 반대했다.

몇 년 후 인터넷이 등장했다. 많은 IT 부서에서는 인터넷이 자신들의 범위를 벗어났다고 생각했다. 그래서 한 무리의 독립적인 애호가와 마케팅 부서의 배신자들이 HTML이 꽤 쉽게 이해할 수 있다는 사실을 알아냈을 때 별다른 도움을 제공하지 않았다.

이후 월드와이드웹에는 각종 마케팅 캠페인이 넘쳐잤으며, 실제 비즈니스 성과를 창출하기 시작했다. 마케팅은 IT 부서의 문을 두드렸고, IT 부서는 웹 기반 주문을 회사의 주문 처리 시스템에 공급하는 방법을 알아냈다. 그렇게 전자상거래가 출현했다.

그리고 이제 우리는 다음 물결을 눈앞에 두고 있다. AI와 이와 관련된 기능들의 폭발적인 증가다. 많은 전문가들은 IT 담당자들에게 계획부터 세우라고 조언하곤 한다. 하지만 PC와 인터넷의 무계획적인 성공 사례를 보면 AI 계획 수립은 우리에게 그저 시간을 낭비하게 만들 수 있다. 

필자는 예벗 박사에게 AI 계획을 정의, 구성, 실행하는 방법에 대한 전문가들의 각종 조언에 대해 평해달라고 요청했다. 
 

1 : “AI가 해결해야 할 문제를 정의하라”
예벗 박사 : “당신은 이 일을 할 만큼 충분히 알지 못한다. 여러분이 해야 할 일은 AI가 해결해야 할 문제를 광범위하게 선정하는 것이다. 유망한 AI 도구를 선택할 수 있을 정도로만 광범위하게 선정하는 것이다.”

2 : “작게 시작하라”
예벗 박사는 “나도 이 말을 꼭 하고 싶다. 그렇다. 작게 시작하라. 그런 다음 반복하라”라고 말했다. 

3 : “AI를 활용하여 데이터 기반 의사 결정을 도우라”
예벗 박사는 다음과 같이 말했다. “그저 ‘도움’이라는 단어를 사용했다. 딱 거기까지다. 설명가능한 AI는 아직 초기 단계에 있으며, AI가 ‘왜 그렇게 생각하는가?’라는 후속 질문에 답할 수 있을 때까지는 AI가 제시하는 결론에 회의적인 태도를 가져야 한다. 그래야 상관관계를 인과관계로 착각하거나 평균으로의 회귀와 같이 잘 알려져 있음에도 불구하고 일반적으로 무시되는 오류에 빠지지 않을 수 있다.”

4 : “AI로 인간의 노력을 보강하는 것부터 시작하라”
“이 조언에 동감한다. AI와 관련해 조직은 인간을 조직의 AI를 관리하고 먹이를 주는 역할로 내몰 것인지, 아니면 AI가 인간의 역량을 강화할 것인지 선택해야 할 것이다. AI는 근본적으로 다른 두 가지 비즈니스 문화, 즉 비인간화 문화와 역량 강화 문화 중 하나로 이어질 수 있다.”

5 : “부서별로 계획을 수립하라”
예벗 박사는 이 조언에 동의하지 않았다. 그는 “구성원들이 여러 가지를 시도하고 서로 공유하는 부서 간 AI 브레인 트러스트를 만들면 기업은 훨씬 더 큰 혜택을 누릴 수 있다. 회사의 AI 노력을 조직화하기 위해 회사 조직도의 용도를 변경하는 것은 AI 기반의 사일로라는 역기능을 조장할 뿐 다른 효과는 거의 없다”라고 말했다.

6 : “AI가 생산성을 향상시킬 수 있는 방법을 고려하라”
예벗 박사는 “아니다. 아니다! AI가 어떻게 효율성을 향상시킬 수 있는지 생각해야 한다”라고 말했다. 그에 따르면 생산성은 효율성의 하위 집합이다. 조립 라인을 예로 들면, AI 증강 인간(위)이 스스로 해결할 수 없는 복잡한 문제를 해결하기 위해 인간의 지식과 판단을 더 잘 적용하도록 해야 한다. AI 증강 인간은 조립 라인에서 일하든 책상에서 데이터에 둘러싸여 일하든 더 효율적으로 일할 수 있다.

7 : “병목 현상 제거에 집중하라”
예벗 박사는 “그럴 수도 있기는 하다. 맨 위로 돌아가서 AI가 해결하기를 원하는 문제 유형부터 시작하라. 현재 상태의 프로세스가 병목 현상으로 인해 어려움을 겪고 있고 프로세스 최적화가 필요하다면, 바로 시작하면 된다”라고 말했다.

8 : ”계획에 보안 제어가 포함되어 있는지 확인하라”
예벗 박사는 이 조언에 반박했다. “’보안 제어’라고 말하기는 쉽다. 그러나 AI 기반 위협에 대한 AI 기반 대응책을 어디에 어떻게 배포할지 파악하는 것은 어려운 일이다. 훨씬 더 어려운 문제다. ‘AI가 고급 학습 기술을 통해 사람의 감독 없이도 패턴을 파악하고 의사 결정을 내릴 수 있도록 제어 수준을 전환할 수 있다’라는 조언이 있다. 그러나 이는 무모한 수준을 넘어선 것이다. 우리는 아직 감독되지 않은 AI에 대한 준비가 거의 되어 있지 않다. '의지적 AI'(volitional AI)는 말할 나위도 없다.”
.
9 : “풀기 쉬운 문제와 쉬운 해결 방법을 찾아야 한다”
예벗 박사는 “위의 '작게 시작하기'를 참조하라”라고 말했다.

10 : “'군중의 지혜'를 활용하라”
“이 조언의 맥락은 직원, 파트너, 공급업체 및 다른 사람들이 알고 있는 것을 활용하라는 것이다. 나도 동의한다.  항상 그렇게 하라”라고 그는 말했다. 

11 : “먼저 기업 문화에 변화가 필요하다”
에번 박사는 “이렇게 할 수 있다면 좋겠지만 현실적으로 그럴 수 없다. 문화는 ‘우리가 여기서 일을 하는 방식’이다. 즉, AI 기반의 문화 변화는 AI 배포 자체와 함께 발전할 수밖에 없다”라고 말했다.

12 : "예상되는 각 사용 사례에 가치가 있는지 확인해야 한다”
“아니다. 그렇게 하면 안 된다. 이를 달성하려면 이미 소개한 교차 기능 팀(위, 부서별 AI 참조)보다 해당 주제에 대한 지식이 부족한 감독 관료 조직을 만들어야 한다. 이는 질병보다 훨씬 더 나쁜 치료법이 될 것이다”라고 그는 말했다.

13: "프로젝트를 실행하기 전에 프로젝트의 가치와 ROI를 개략적으로 설명하라"
예벗 박사는 이 조언에 대해서도 “안 된다. 오히려 ROI에 대한 부분은 무시하라. 재정적 수익만을 고집하면 전술적인 노력과 감독 관료주의, 그리고 이를 정당화하는 데만 더 많은 시간이 소요될 수 있다. 조직은 AI 성공을 위한 방법을 배워야 한다. 각 프로젝트가 재정적으로 정당화되어야 한다면 이러한 학습은 극히 일부분만 이뤄질 것이다”라고 반박했다.

14 : "비즈니스 모델을 정의하고 거기서부터 작업하라"
예벗 박사는 “물론이다. 비즈니스 리더는 자신의 비즈니스가 어떻게 작동하는지 알아야 한다. AI는 회사의 문제 중 작은 부분일 뿐이다”라고 말했다.

15 : "인간적 요소를 존중하면서 점진적인 변화를 주도하는 전략을 개발해야 한다"
“점진적 변화? 앞서의 조언과 같은 맥락이다. 인간적인 요소에 대한 존중? 좋은 말이다. AI로 증강된 인간성에 초점을 맞춘다는 뜻이길 바란다”라고 그는 말했다.

16 : "윤리적 AI 사용을 위한 원칙을 포함하라”
예벗 박사는 “개인적으로 윤리에 찬성한다. 하지만 AI만을 위한 새롭고 다른 윤리적 프레임워크를 만드는 것에는 찬성하지 않는다. 이렇게 생각해보라. 피싱 공격이 등장하기 전에는 절도가 비윤리적인 행위로 간주됐다. 누군가 피싱 공격을 개발한 후에도 절도는 계속 비윤리적인 행위로 여겨진다. 윤리는 도구에 관한 것이 아니다. 도구를 사용하기로 결정한 목적과 방법에 관한 것이다”라고 말했다. 

예벗 박사가 조언을 전한 전문가들에게 너무 매정하게 구는 것일까? 그럴지도 모른다. 하지만 그가 한 가지 확신하는 것은 아직 전문가가 없을 정도로 인공지능의 초기 단계라는 점이다. ciokr@idg.co.kr