칼럼 | 생성형 AI로 어떻게 ‘돈’을 벌까?

지금 현재 생성형 AI의 잠재력을 의심하는 경영진이 있을까? 2023년 7월 포춘과 딜로이트가 포춘 500대 기업 CEO를 대상으로 실시한 설문조사에 따르면, 응답자 79%는 생성형 AI가 운영 효율성을 개선할 것이라고 예상했으며, 절반 이상은 성장을 가속할 것이라고 봤다. 
 

도미노 데이터 랩(Domino Data Lab)이 데이터 과학팀 리더와 팀원을 대상으로 한 설문조사에서는 생성형 AI에 대한 과대광고가 타당하다는 응답이 무려 90%에 달했다. 생성형 AI가 세계 경제에 막대한 영향을 미칠 전망이라는 보고서도 잇달아 발표되고 있다. 이를테면 맥킨지는 생성형 AI 기술이 연간 2조 6,000억 달러(약 3,430조 원)에서 4조 4,000억 달러(약 5,804조 원)에 이르는 경제적 가치를 창출할 수 있다고 추정했다. 

이제 던져야 할 질문은 다음과 같다. 생성형 AI가 ‘어떻게’ 혁신을 가져올지다. 다시 말해, 생성형 AI로 어떻게 수익을 창출할 수 있을까? 

질문에 답하려면 ‘생성형 AI로 돈 버는 것’을 어렵게 만드는 과제와 기업이 이런 과제를 극복하는 방법을 살펴봐야 한다. 해답은 적절한 생성형 AI 사용례를 식별하고, 생성형 AI 애플리케이션 개발 및 운영 역량을 구축하는 데 있다. 

생성형 AI로 돈 벌기가 어려운 이유

운영 효율성이나 매출 성장을 높이는 등 생성형 AI를 통한 수익 창출을 어렵게 만드는 2가지 과제가 있다. 첫 번째는 새로운 사용례를 발굴하고 기존 ML 작업과는 다른 새 비즈니스 모델을 개발하는 것이다. 생성형 AI는 기업이 그동안 무시해 왔던 텍스트, 음성, 이미지, 동영상 등의 비정형 데이터를 분석하고 생성하는 작업이기 때문이다. 

기업 콘텐츠 관리 시스템에서 문서 검색 및 요약을 지원하는 챗봇을 어떻게 만들 수 있을까? 이는 현재 많은 기업이 생성형 AI로 추진하고 있는 사용례다. 생성형 AI가 등장하기 전까지 이런 작업은 엄청난 시간과 비용을 투자해야 비슷한 작업 근처라도 갈 수 있었다. 

두 번째 과제는 일시적이긴 하지만, 생성형 AI 모델이 기존 ML 모델보다 훨씬 더 비싸고 운영하기 어렵다는 점이다. 기존 AI 모델보다 훨씬 더 큰 데다가, 지난 몇 년 동안 그 규모가 급격하게 커졌기 때문이다. 예를 들면 GPT-4는 1조 개 이상의 매개변수를 가지고 있는 것으로 추정된다. 동일한 아키텍처를 기반으로 하는 초창기 생성형 AI인 BERT 모델보다 약 9,000배 더 큰 규모다. 지난 2018년 공개된 BERT는 당시 사용되던 대부분 모델보다 훨씬 더 컸다. 생성형 AI 모델은 더 크고, 더 많은 데이터로 학습하기 때문에 학습과 실제 사용 모두에 들어가는 비용이 훨씬 많다. 

일시적이라고 언급한 이유는 다음과 같다. 우선 인프라가 저렴해지고 있다. 그리고 생성형 AI 모델의 인프라 사용 공간을 줄여주는 최적화 기술이 끊임없이 혁신되고 있다. 마지막으로 기업이 생성형 AI 사용법에 익숙해지고 있으며, 초거대 생성형 AI 모델에서 벗어나 특정 작업과 도메인에 맞게 미세 조정된 더 작고 전문화된 모델로 이동하고 있어서다. 

생성형 AI로 돈 버는 방법

모든 기업이 생성형 AI로 수익을 창출할 수 있다. 이미 수익을 창출하고 있는 기업도 있다. 하지만 대부분 기업은 생성형 AI의 적합한 사용례를 식별할 리더십과 전문 지식뿐 아니라, 생성형 AI 모델과 애플리케이션을 개발 및 배포할 역량도 부족하다. 

생성형 AI를 통한 수익 창출의 첫 번째 핵심 요소는 실질적인 비즈니스 가치를 제공하는 한편, 기술의 약점은 피하면서 강점은 극대화할 수 있는 사용례를 식별하는 것이다. 이런 사용례를 파악하고 우선순위를 정하려면 비즈니스 맥락, 기업 데이터, 무엇보다 생성형 AI 모델의 장단점을 이해하는 숙련된 데이터 과학자와 리더가 필요하다. 데이터 과학팀을 구성해 본 적 없거나, AI/ML 프로젝트를 해본 경험이 없는 기업은 적절한 사용례를 식별하고 추진하는 데 필요한 인력과 경험이 부족하기 마련이다. 

두 번째 핵심 요소는 LLM 운영을 위해 확장 가능하고 비용 효율적이며, 거버넌스를 갖춘 생성형 AI 모델과 파이프라인을 개발 및 운영할 수 있는 역량, 즉 ‘LLM옵스(LLMOps)’다. 빅테크 기업에서 제공하는 거대하고 일반적인 생성형 AI 모델로는 대부분 기업이 생성형 AI 기반의 비즈니스 크리티컬 애플리케이션을 운영할 수 없다. 너무 크고 느리며, 너무 비용이 많이 들고 미세 조정할 수 없기 때문이다. 기업의 보안 및 제어 요건을 충족하지 못하는 경우도 많다. 기업이 파운데이션 모델을 수집하고 미세 조정하며, 거버넌스와 함께 배포할 수 있는 자체적인 내부 LLM옵스를 구현하는 것 외에는 대안이 없다. 

언제부터 생성형 AI로 수익을 창출할 수 있을까?

많은 기술 기업이 앞다퉈 생성형 AI로 제품을 강화하고 있다. 몇몇 업체는 향후 몇 년 동안 생성형 AI 기술을 통해 비즈니스를 성장시키고 시장 점유율을 확보할 것으로 예상된다. 생성형 AI 스타트업도 폭발적으로 증가했으며, 마찬가지로 몇몇 소수의 스타트업이 큰 성공을 거둘 가능성이 높다. 

하지만 대부분 기업은 아직 생성형 AI 성숙도와 전반적인 AI 성숙도 모두 초기 단계에 머물러 있다. 생성형 AI를 통해 직원의 생산성을 획기적으로 개선하여 수익을 창출한 성공 사례가 있기는 하지만, 선도적인 기업을 제외한 모든 기업의 수익에 상당한 영향을 미치기까지는 시간이 걸릴 전망이다. 대부분 경영진이 생성형 AI를 처음 알게 된 지, 즉 챗GPT가 출시된 지 1년이 채 되지 않았기 때문이다. 

따라서 기업은 현업 부문 경영진과 데이터 과학팀 사이에 LLM옵스 기능을 구현하고, 내부적으로 생성형 AI 전문 역량을 키워야 한다. 대규모 데이터 과학팀, AI 전문가 조직(center of excellence), 기존 ML 성공 사례를 갖춘 기업은 유리한 고지를 선점할 수 있다. 그리고 내년쯤이면 규모는 작더라도 성공적인 생성형 AI 프로젝트 포트폴리오를 구축할 수 있으리라 본다. 반면에 이런 역량이 부족한 기업이라면 생성형 AI의 발전을 의미 있게 활용하기까지 몇 년이 걸릴 것이라고 예상한다. 

기존 AI/ML 기술과 마찬가지로, 생성형 AI는 가만히 앉아 있으면 돈을 벌어다 주는 기술이 아니다. 차별화되고 가치 있는 사용례에 필요한 데이터와 요구사항, 그리고 생성형 AI 운영의 어려움으로 인해 아웃소싱할 수 있는 사용례와 이를 뒷받침하는 생성형 AI 모델은 거의 없다.

대신 적절한 사용례를 식별 및 설계하고, 생성형 AI 애플리케이션을 개발 및 운영하는 데 필요한 팀, 프로세스, 플랫폼을 구축하기 위한 내부 작업과 투자가 필요하다. 이미 AI 역량에 투자한 기업이 유리한 위치를 점하고 있으며, 지금 이 순간에도 생성형 AI를 통해 가치를 창출하고 있다. 만약 그렇지 않다면, 이제 따라잡아야 할 때다.

*Kjell Carlsson은 Domino Data Lab의 AI 전략 책임자다.
editor@itworld.co.kr