AI / CIO / How To / 디지털 트랜스포메이션 / 분쟁|갈등 / 신기술|미래

‘낙오에의 두려움, 잠재력에의 기대’··· IT 리더들의 생성형 AI 수용 이야기

2023.10.20 Paula Rooney | CIO

챗GPT 1주년이 다가오고 있는 가운데, 곳곳의 IT 리더들은 생성형 AI 실험과 현장 배치에 박차를 하고 있다. 다양한 우려가 있음에도 불구하고 이들은 생성형 AI가 가지는 생산성 향상 및 비즈니스 경쟁 우위 잠재력에 주목하고 있다.

2022년 11월 오픈AI의 챗GPT 발표와 그 후 이루어진 마이크로소프트의 100억 달러 자금 지원은 ‘전 세계에 울려 퍼진 신호탄’과 같았다. 생성형AI의 가능성에 관한 논의는 이후 폭발적으로 증가했다.

-> “무섭게 뛰어나다” 드디어 대화할 만한 AI 챗봇의 등장

가속화된 논쟁과 증폭된 규제 불확실성 속에서도 IT 리더들은 이 기술의 파괴적 잠재력을 파악하기 위해 빠르게 움직였다. 실제로 대부분의 기업 CIO들은 향후 2년 이내에 다수의 생성형 AI 애플리케이션을 배포할 계획을 수립하고 있다. 최근 가트너의 조사에 따르면, 약 2,500명의 CIO 중 9%가 생성형 AI 애플리케이션을 미리 배포했다고 답했으며 놀랍게도 무려 55%는 2025년 말까지 대규모 언어 모델(LLM)을 비즈니스 현장에 배포할 것이라고 답했다.

가트너의 AI 애널리스트 아룬 찬트라세카란은 초기 사용 사례로 콘텐츠 작성, 문서 요약, 감정 분석 및 엔터프라이즈 검색을 언급하며 “현재 많은 파일럿 프로그램이 출현하고 있다”라고 전했다.

이러한 동향은 파운드리가 약 1,000명의 IT 의사결정권자를 대상으로 실시한 최근 설문조사에서도 확인된다. 생성형 AI에 관심을 보인 IT 임원의 92% 중 57%는 사용 사례 파악에 분주하며, 45%는 파일럿 프로그램을 시작하고 있다. 또한 41%는 생성형AI에 대한 직원 교육을 실시하고 있으며, 40%는 정책 및 지침을 수립하고 있다. 뿐만 아니라 IT 임원 5명 중 4명은 생성형 AI를 활용해 개발자의 생산성을 보강 및 개선할 계획을 가지고 있었다.

파운드리 AI 우선순위 서베이 2023

카맥스, 골드만삭스, 코카 콜라, 로레알, 조지아퍼시픽, 나스닥 및 보다폰 등은 프로덕션 워크로드를 배포하는 등 LLM을 도입하고 있다고 공개적으로 발표한 기업들 중 일부다. 8월 말 GPT-4를 기반으로 한 오픈AI의 챗GPT 엔터프라이즈 출시 발표는 에스티로더, PwC, 자피어(Zapier), 블록(Block), 칼라일(Carlyle)이 이를 앞서 사용했다는 내용을 담고 있다.

즉, 챗GPT 출시 1주년이 다가오며 비즈니스 세계는 새로운 생성형 AI가 촉진한 기능 및 플랫폼의 기반을 마련하는 데 있어 전환기에 이른 듯 보인다.

생성형 AI 바람
생성형 AI에 대한 초기 시도는 마이크로소프트, 구글 및 아마존의 클라우드 AI 플랫폼에서 주로 이뤄지고 있다. 각종 가드레일 및 거버넌스 조치와 함께다.

카맥스의 CITO인 샤밈 모하메드는 그의 회사가 마이크로소프트의 고도로 대중화된 오픈AI 투자 훨씬 이전에 시범적으로 GPT-3.x 자연어 모델을 사용하고 있었다고 밝혔다. 현재 그의 회사는 자동차 관련 콘텐츠 제작을 간소화하고 프로그래머들이 고객 경험을 더욱 개선하도록 하기 위해 GPT-4의 활용을 확대하고 있다.

->“비즈니스 가치 도출 중” 중고차 유통 기업 카맥스의 GPT-3.5 활용기

메르세데스 벤츠 또한 마이크로소프트 애저 오픈AI 서비스를 활용함으로써 차량 내 음성 제어 기능성을 향상하고 있다. 회사의 IT 조직은 마이크로소프트의 AI 특화 애저 플랫폼과 함께 오픈 AI의 GPT-4 및 GPT-3.5를 활용하고 있다.

->일문일답 | “자동차 기업의 DX 원동력은 이제 생성형 AI” 메르세데스-벤츠 그룹 AG CIO 얀 브레히트

->메르세데스-벤츠, 차량 시스템에 챗GPT 도입··· “음성비서 답변 수준 높아져”

캘리포니아 팔로 알토에 기반을 둔 온라인 보험사인 제리(Jerry)의 존 스포티스우드는 더 지능적이고 향상된 챗봇으로 고객 요청을 처리하기 위해 LLM 기반 플랫폼을 개발하고 있다. 그는 “주로 오픈 AI 있고 챗GPT를 호출하고 있으며 GPT-4 및 GPT-3.5를 혼합해 활용하고 있다. 또한 오픈AI API가 응답하지 않을 경우에는 클로드 2(Claude 2)를 사용할 수 있도록 했다”라고 설명했다.

9월에 딜로이트 AI 연구소는 생성형 AI 전환에 적합한 사업군으로 금융 서비스, 기술, 미디어 및 통신, 에너지 자원 및 산업, 소비자, 정부 및 공공 서비스, 생명 과학 및 의료 분야를 언급한 보고서를 발표했다.

IDC의 AI 및 자동화 연구 그룹 부사장인 리두 조티는 “생성형 AI의 사용이 광범위해짐에 따라 많은 산업 부문에서 심각한 혼란이 발생하고 있다”라고 진단했다.

금융 보안 회사인 에이펙스(Apex)는 아마존의 베드록 생성형 AI(Bedrock gen AI) 기술과 통합된 젠팩트(Genpact)의 리스크캔버스(riskCanvas) 소프트웨어를 초기에는 문서 요약에 활용하고 있다. 회사의 금융 범죄 컴플라이언스 책임자인 저스틴 모건은 에이펙스가 향후 궁극적으로는 금융 범죄 예방에 생성형 AI를 활용할 방침이라고 전했다.

그는 “에이펙스는 이 기술을 비즈니스에 구현한 초기 기업 중 하나다. 이 수준으로 프로덕션에 AI를 활용하는 예는 많지 않다”라고 말했다.

한편 모건은 현재 AI가 금융범죄 혐의 판단을 위해 분석을 수행하고 있지는 않다고 설명하며, “분석가가 최초 요약에서 제공한 정보를 토대로 서술 부분을 생성해내고 있다”라고 말했다.

스냅(Snap), 렉시스넥시스(LexisNexis) 및 론리 플래닛(Lonely Planet)도 각각 AWS에 저장된 자체 데이터를 사용해 LLM 모델을 훈련하고 있다.

론리 플래닛의 엔지니어링 담당 SVP인 크리스 와이드는 “아마존 베드록에 있는 앤트로픽 LLM과 함께 검색 증강 생성 및 신속한 엔지니어링 활용해 시스템을 구축해 경험을 추출한 다음, 이러한 경험을 프린트 콘텐츠 코퍼스에서 여행 일정으로 구성한다”라고 설명했다.

또 다른 AWS 고객인 나스닥은 LLM을 활용해 “회사의 자체 데이터 세트로부터 나스닥의 마케팅 및 커뮤니케이션 팀이 새로운 인텔리전스 보고서를 작성”하도록 하고 있다. 이 보고서는 콘텐츠를 만드는 투자자 및 기업 고객을 대상으로 한다.

나스닥 CIO이자 CTO인 브래드 피터슨은 최근 CIO닷컴과의 인터뷰에서 생성형 AI가 “차세대 기술을 대표한다”라고 언급했다. 그에 따르면 나스닥은 이를 금융 범죄 위험을 파악하고 기업 이사회가 프레젠테이션 및 필요 공시를 더욱 효율적으로 생산 및 소비할 수 있도록 하기 위한 금융 SaaS 제품으로 개발할 것이라고 설명했다.

-> 인터뷰 | “나스닥은 AI 기반 SaaS 벤더이기도 하다” 브래드 피터슨 CIO겸 CTO

기술 서비스 회사 위프로(Wipro)의 구글 비즈니스 그룹 책임자인 톰 리처 또한 생성형 AI의 혁신적 잠재력 탐구를 갈망하는 CIO들의 관심 역시 빠르게 증가하고 있다고 전했다. 그는 “많은 이들이 생성형 AI가 IT 운영을 효율화하고 데이터 관리를 강화하며 의사 결정을 향상하기 위해 어떠한 방식으로 활용될 수 있는가를 평가하기 위한 개념 증명 프로젝트를 수행하고 있다”라고 말했다.

그는 한 생명 과학 회사가 계약 관리 비용을 절감하고 회사 정책에 대한 합의 준수를 향상하기 위해 구글의 생성형 앱 빌더(Gen App Builder)를 활용한 최근의 개념증명 사례를 인용했다.

리처는 “이 프로토타입의 경우 정책에 따라 계약 관리자가 제공하는 구조화된 프롬프트를 사용해 공급업체 계약을 생성했다. 개념증명 프로젝트를 통해 계약 생성, 조항 검색 및 요약, 계약 관리 기능의 전반적인 정확도에 들어가는 시간을 상당히 절감할 수 있음이 확인됐다”라고 설명했다.

한편 기존 AI 벤더들 또한 고객과 더욱 가까워지기 위해 고급 생성형 AI 플랫폼 제공을 위해 전속력을 다하고 있다. 예를 들어, 데이터브릭스(Databricks)은 고객들이 자신의 AI 애플리케이션에 LLM을 사용할 수 있도록 하기 위해 모자이크ML(MosaicML)을 인수했다.

-> 데이터브릭스, 생성형 AI 플랫폼 ‘모자이크 ML’ 인수

또 다른 AI 벤더인 C3 AI는 지난 달 28개의 도메일 특정 생성형 AI 제품을 갖춘 강화된 생성형 AI 제품군을 출시했다. C3에 따르면, 설탕 생산업체인 판탈레온(Pantaleon)은 매출 예측 보완을 위해 C3 생성형 AI를 활용하고 있으며, 조지아-퍼시픽(Georgia-Pacific)은 이를 제조 공정 지식에 활용하고 있다. 또한 플린트 힐 리소스(Flint Hill Resources)는 상품 거래 최적화를 위해 LLM 기반 플랫폼을 구축하고 있으며, 미국 미사일 방어국(US Missile Defense Agency)은 철강 제조 시 안전성 개선을 위해 이를 활용하고 있다.