AI 프로젝트의 ROI, 어떻게 구체화할 것인가

2030년이면 챗봇, 연구, 글쓰기, 요약 도구와 같은 생성형 인공지능(gen AI) 프로젝트에 지출되는 기업 비용이 연간 420억 달러에 달할 전망이다. 이 기술은 생산성 향상에 다각적으로 도움이 될 것으로 기대되지만, 투자 수익률(ROI)을 구체화하기란 쉽지 않을 수 있다.

가트너의 부사장이자 저명한 애널리스트인 리타 살람은 “생산성 향상의 효과를 정확히 측정하는 것은 종종 어려운 과제였다. [생성형 AI]와 관련한 ROI를 찾는 것이 유독 어렵다는 이야기가 아니다. 생산성 향상 등은 재무적 성과에 간접적 영향을 미치기 때문에 ROI를 구체화하는 것이 어렵다”라고 말했다.

예를 들어, 생성형 AI를 사용하여 코드 생성을 자동화하면 소프트웨어 개발자의 생산성이 향상되어 혁신 확대에 더 많은 시간을 할애할 수 있다. 이렇게 하면 결국 새로운 기능의 출시 기간을 단축하고 고객 만족도를 높일 수 있다. 그렇다면 이러한 무형의 가치를 어떻게 측정할 수 있을까?

살람은 “숙련도가 낮은 개발자를 고용할 수 있으므로 비용이 절감된다. 같은 수의 개발자로 더 많은 작업을 처리할 수 있다. 이러한 이점은 궁극적으로 수익 창출 시기를 앞당기고 고객과 개발자의 소모를 줄이며 고객 지출을 늘릴 수 있다. “하지만 (인원 감축이 없다면) 단기적 비용 절감으로 직결되는 것은 아니다”라고 말했다.

컨설팅 회사인 맥킨지 앤 컴퍼니의 8월 보고서에 따르면 지난해는 엔터프라이즈 AI 도입의 해였다. 55%의 기업이 생성형 AI를 실험했다. 그러나 두 가지 이상의 영역에 AI를 사용하고 있다고 응답한 기업은 당시 조사에 참여한 기업 중 3분의 1 미만에 불과했다. “AI 사용 범위가 여전히 제한적이라는 것을 시사한다”라고 보고서는 기술했다.

하지만 올해는 프로젝트가 ‘경험과 숙련도 면에서 임계치에 도달’함에 따라 AI 배포가 빠르게 증가할 것으로 예상된다.

먼저 나쁜 소식 몇 가지
가트너에 따르면 2025년까지는 기업 내 생성형 AI 배포 중 90%에서 비용이 가치를 초과하기에 탄력을 받기 어렵다. 또 그 중 30%는 데이터 품질 저하, 부적절한 리스크 관리, 비용 증가, 불분명한 비즈니스 가치로 인해 개념 증명(POC) 후 폐기될 것으로 분석된다.

또 2028년까지 대규모 언어 모델(LLM)을 처음부터 구축한 기업의 50% 이상이 배포의 비용, 복잡성 및 기술적 부채로 인해 그러한 노력을 포기할 것으로 관측된다.

프라이스워터하우스쿠퍼스(PwC)의 데이터 및 AI 리더인 브렛 그린스타인은 “ROI를 측정하기는 어렵다”라면서도, LLM를 적용한 기능이나 프로세스의 경우 비용, 정확도, 속도 등을 이전 프로세스와 비교할 수는 있다고 설명했다.

간단히 말해서 ROI는 비용 대비 투자 수익 또는 손실의 재무적 비율이다. 기업이 생성형 AI에 투자하려면 해당 지출로 도출된 장점이 비용을 넘어서야 한다. 그린스타인은 “[생성형 AI]가 새로운 수준의 성능을 일관되게 달성하면 적절한 거버넌스 및 운영 프로세스를 통해 생산에 배포하고 사용량을 추적할 수 있다. 6시간이 걸리는 프로세스에서 2시간을 절약하는 사용 사례가 있다면 그 사용량을 추적해서 절감된 시간을 집계할 수 있다”라고 밝혔다.

지금부터는 좋은 소식
822명의 비즈니스 리더를 대상으로 실시한 ‘가트너 2024 기획 설문조사’에 따르면, 생성형 AI 도구를 구현 중이거나 도입할 계획인 비즈니스 경영진의 대다수가 의사 결정과 관련한 이점을 기대하거나 이미 실현한 것으로 나타났다. 설문조사 응답자들은 평균적으로 다음과 같이 답했다:

● 15.8% 매출 증가
● 15.2% 비용 절감, 4.6%는 인력 감축을 통해 
● 22.6% 생산성 향상

챗GPT는 또한 작업자의 생산성을 37% 향상시키는 것으로 나타났다.

● 생성형 AI 코딩 어시스턴트는 결과적으로 작업자 생산성을 7%에서 55%까지 향상할 수 있다.
● 생성형 AI 대화형 어시스턴트(챗봇)는 고객 서비스를 개선하고 상담원의 생산성을 향상시킬 수 있다. (연구에 따르면 14%에서 35%까지 개선되는 것으로 나타난다.)

PwC의 ‘2023 신흥 기술 설문조사’에 따르면 미국 기업의 73%가 이미 비즈니스의 일부 영역에 AI를 도입했으며, 그 선두에는 생성형 AI가 있다. 리서치 기관 IDC에 따르면 2027년까지 생성형 AI에 대한 지출 규모는 1,511억 달러에 달할 것으로 예상된다. 2023~2027년 동안 연평균 85.9%씩 성장하는 셈이다.

맥킨지 앤 컴퍼니에 따르면, 생성형 AI와 관련된 63개의 사용 사례를 분석한 결과, 전 세계적으로 연간 2조 6,000억 달러에서 4조 4,000억 달러에 해당하는 가치를 추가할 전망이다. 생산성에 미치는 생성형 AI의 영향에 대해서는 논란의 여지가 거의 없다고 이 컨설팅 기업은 설명했다. 가치의 약 75%는 다음 4가지 영역에 해당한다:

● 고객 운영
● 마케팅 및 영업
● 소프트웨어 엔지니어링
● R&D 

맥킨지는 16개 비즈니스 부서에서 측정 가능한 결과를 하나 이상 창출할 수 있는 생성형 AI 도구의 사례를 언급했다. 고객과의 상호작용(챗봇) 지원, 마케팅 및 영업을 위한 창의적인 콘텐츠 생성, 자연어 프롬프트에 기반한 컴퓨터 코드 초안 작성 등이 그러한 예에 해당한다.

맥킨지에 따르면 생성형 AI로 인해 매출에서 큰 영향을 받을 수 있는 산업으로는 금융, 하이테크, 생명과학 분야 등이 있다. 예를 들어, 은행업에서 이 사용사례들을 완전히 구현할 경우 연간 2,000억 달러에서 3,400억 달러의 부가가치를 창출할 수 있을 전망이다. 소매 및 포장 소비재 산업에서는 잠재적 가치가 연간 4,000억 달러에서 6,600억 달러에 달할 수 있다.



맥킨지에 따르면 생성형 AI는 또한 디지털 트랜스포메이션 노력에 폭넓게 유용할 수 있다. 예를 들어, 비정형 데이터를 이해하는 능력은 클라우드와 결합하면 거의 모든 데이터 관련 혁신 이니셔티브를 가속화할 수 있다.

예를 들어, 재무, 세무, 법무, IT 규정 준수 및 기타 부서에서 이전에는 다룰 수 없었던 복잡한 작업을 처리할 수 있게 된다. 가령 기업이 새로운 필러 II 세금 보고 요건을 보다 효율적으로 충족하는 데 도움이 될 수 있다. 

더 일반적으로는 공통적인 엔터프라이즈 애플리케이션을 업그레이드할 필요가 금방 없어질 수도 있다. 대신, 앱을 클라우드로 이전하여 맞춤화 된 생성형 AI 모듈을 통해 변화하는 비즈니스 요구 사항을 충족하도록 지속적으로 발전시킬 수 있다.

가트너의 살람에 따르면 대부분의 개선 사항은 생산성, 주기 시간, 고객 경험, 브랜드, 품질, 비숙련 직원의 빠른 업스킬링 등 미래의 재무 가치 또는 간접 가치와 관련된 주요 지표에 영향을 미칠 전망이다.

그녀는 “이러한 이점이 즉각적인 인력 감축 및 기타 비용 절감으로 이어질 수도 있다. 이 밖에도 창출된 가치가 어떻게 사용되느냐에 따라 시간이 지남에 따라 재정적 이익이 발생한다”라고 말했다.

즉, 생성형 AI를 통해 조직은 수요가 증가하더라도 더 적은 비용으로 더 많은 일을 할 수 있고, 더 적은 수의 고령 인력을 사용하고, 서비스 제공업체의 필요성을 줄이고, 고객 및 직원 가치를 개선하여 고객 및 직원 유지율을 높일 수 있다.

살람은 “따라서 특정 작업과 특정 프로세스와 관련된 전체 작업에서 특정 기간 내에 절약된 시간을 측정하고 가치를 평가해야 한다. 생산성 향상만으로는 시간이 지남에 따라 차별화의 원천이 줄어들 수 있지만, 이러한 기능을 다른 비즈니스 프로세스에 통합하면 기업이 경쟁 우위를 유지하는 데 도움이 될 수 있다”라고 말했다.

가트너에 따르면 생산성 이득은 얼리 어답터들이 보고한 주요 초기 혜택이다. 그러나 이러한 즉각적인 이득은 시간이 지남에 따라 줄어들기 때문에 기업은 보다 효율적인 비즈니스 프로세스가 장기적으로 비용을 절감하므로 인내심을 가져야 한다.

빠른 성과와 쉽게 얻을 수 있는 이익
가트너에 따르면, 생성형 AI에 대한 새로운 투자의 가치를 계산하려면 기업이 먼저 다양한 활동에서 잠재적인 비용과 가치를 시뮬레이션 하여 비즈니스 사례를 구축해야 한다. 즉, 다음의 요소들을 혼합할 필요가 있다.

● 초기의 빠른 성과
● 차별적 사용 사례
● 혁신적 이니셔티브

생성형 AI의 초기의 빠른 성과는 대개 생산성 향상과 관련된 것들이다. 현재로서는 일반적으로 마이크로소프트 365 코파일럿 및 구글 워크스페이스와 같은 어시스턴트를 통해 이뤄진다. 이러한 종류의 활동은 쉽게 시작하고 사용해보고 구매할 수 있지만 구체적인 가치는 작업별로 다르다. 가치를 인식하는 데 걸리는 시간은 일반적으로 1년 미만이다.



엔터프라이즈, 도메인, 산업 애플리케이션 또는 맞춤형 애플리케이션에서 생성형 AI를 활용하는 차별화적 사용 사례를 통해 조직은 특정 비즈니스 프로세스를 개선하여 경쟁 우위를 확보할 수 있다. 가트너에 따르면 이러한 사용 사례는 회사의 고유 데이터를 활용하게 된다. 그러나 예측할 수 없는 높은 비용과 규모에 따른 리스크를 수반한다.

혁신적 이니셔티브란 완전히 새로운 시장 카테고리를 창출하고 기존 시장을 파괴할 수 있는 새로운 제품과 서비스이다. 또한 기존 제품에 이러한 기능을 추가하여 고객을 유지하는 역할도 한다. 기본적으로 새로운 도메인 및 산업별 생성형 AI 애플리케이션을 만드는 것이라고 할 수 있다.

예를 들어, 보험 회사는 자체 정책 문서로 대규모 언어 모델을 미세 조정하여 특정 사용 사례에서 성능을 개선할 수 있다. 또는 금융 서비스 조직에서 금융 데이터로 학습된 LLM을 만들어 여러 금융 서비스 사용 사례에 사용할 수 있다.

이를 위해 기업은 더 나은 사용자 경험, 이전에는 더 높은 기술이 필요했던 기능에 대한 폭넓은 접근성, 직원 및 고객 만족도 등 재무적 이익과 전략적 결과를 모두 파악할 수 있는 지표를 발굴해야 한다. 그리고 나야 기업은 그 영향력을 현실적으로 평가할 수 있다.

카네기 멜론 대학교 테퍼 경영대학원의 비즈니스 기술 교수인 파람 비르 싱에 따르면, 적어도 현재로서는 조직이 ROI의 척도로 재무적 수익률에만 집중해서는 안 된다.

싱은 “몇 년 안에... 조직은 재무적 수익을 구체화할 수 있을 것이다. 오늘날 고객 만족은 매우 중요한 영역이다. 지금은 생성형 AI가 고객 만족도를 얼마나 개선하고 있는지 파악하고 이를 바탕으로 수익성을 계산할 수 있어야 한다”라고 말했다.

일부 조직에서 범하는 또 다른 실수는 개별 프로젝트별로 효과를 구체화하지 않는 것이다. 모든 기업 이니셔티브에서 생성형 AI의 ROI를 측정하려 한다. 이런 접근법은 어떤 이니셔티브가 효과가 있고 어떤 이니셔티브가 효과가 없는지를 파악하기 어렵게 만든다.

이 밖에 AI를 통해 ROI와 혁신적 가치를 모두 확보하기 위해 반드시 필요한 것은 직원 교육을 실시하는 것이다. 직원들이 AI를 책임감 있고 효과적으로 사용하려면 기술, 보호 장치, 인센티브가 필요하다. 직원들이 생성형 AI 도구의 가치를 이해하지 못하면 이를 사용할 가능성이 낮다.

깃허브의 교훈
깃허브의 최고 운영 책임자인 카일 다이글에 따르면 깃허브는 약 2년 반 전, 즉 코파일럿이 공개되기 훨씬 전에 깃허브 코파일럿을 출시했으며, 이를 통해 개발자의 생산성을 55% 향상시켰다.

사실 깃허브는 코드 문서화에 코파일럿이 사용될 것으로 판단했다. 하지만 시간이 지나면서 이 회사는 실제로 코드의 상당 부분을 자동화하여 일상적인 작업을 줄일 수 있다는 사실을 알게 되었다.