칼럼 | 생성형 AI의 활용도, ‘IT 리더는 여전히 고심 중’

챗GPT가 출시 1년을 맞았다. 그 효과는 어느 정도 증명됐지만, IT 리더들은 아직 생성형 AI에 올인하지 않고 신중한 접근 방식을 택하고 있다.
 

많은 CIO가 최신 기술을 유지하기 위해 생성형 AI를 탐색하고 있다. 그러나 시중에 있는 기술이 아직 기대에 미치지 못한다고 생각하는 이들도 있다. 미쉐린(Michelin)의 글로벌 CIO인 이브 카소는 “6개월 이상 깃허브(GitHub) 코파일럿과 챗GPT를 테스트해 본 결과, 생성형 AI의 발전 속도에 놀랐다. 하지만 현재 상태로는 도구 상자에 불과하다”라고 평가했다. 

최신 대규모 언어 모델(LLM)과 관련 도구에 대한 광고가 과장된 부분도 있지만, 그 이면에는 언젠가 이 기술이 필수 불가결해질 것이라는 전망이 담겨 있다. 카소는 “생성형 AI가 일상 작업의 상당 부분을 수행할 만큼 성숙해지면, 사람은 새로운 일에 집중할 수 있게 된다”라고 언급했다. 
 

앨버말(Albemarle)의 전 최고 정보 및 디지털 혁신 책임자인 패트릭 톰슨을 비롯해 몇몇 기술 리더는 생성형 AI가 이 시대의 가장 파괴적인 기술이 될 것이라고 진단했다. 톰슨은 “애플이 아이폰으로 소비자를 위해 했던 일보다 더 파괴적일 수 있다. 또한 마이크로소프트가 비즈니스 사용자의 생산성을 위해 했던 일도 능가할 것이다”라고 전망했다. 

이제 중요한 과제는 이 기술로 무엇을 할 것인가다. 

기존 AI의 강화
생성형 AI는 새롭지만 AI는 그렇지 않다. 미쉐린과 알바말 등 기업은 이전부터 센서로 데이터를 수집하고 알고리즘을 학습해 가장 기본적인 수준으로 활용하는 예측 유지보수(predictive maintenance)에 AI를 사용해 왔다. 모델은 학습이 완료되면 고장을 일으킨 지표를 찾아 작업자에게 경고하고 제조 중단을 방지할 수 있게 한다. 

예측 유지보수는 드물게 발생하는 상황을 학습 데이터에 제대로 반영하지 못한다는 단점이 있다. 그 결과, 알고리즘은 드물지만 고장을 예견할 수 있는 센서 출력 패턴을 충분히 학습하지 못할 수 있다. 이러한 간극을 메우기 위해 많은 기업이 실제 데이터를 합성 데이터로 보완한다. 

AI는 공급망의 효율성을 개선하고, 고객과의 상호 작용을 촉진하며, 직원의 사무 업무를 지원하는 등의 방식으로도 활용되고 있다. 앨버말은 최근 팬데믹 봉쇄 조치 이후 AI를 가상 비서로 활용하고 있다. 톰슨은 “필요에 의해 약간 앞선 경우다. 팬데믹으로 인해 7,000명의 직원이 집에서 셀프 서비스를 받을 수 있는 방법을 찾아야 했다”라고 말했다. 

앨버말이 개발한 셀프 서비스 챗봇은 다른 기업의 기능을 지원하는 도구로 발전했고, 통합 워크플로우를 관리하는 가상 개인 비서로 확장됐다. 이를 통해 직원들은 모든 시스템에 로그인하지 않고 한 번에 여러 시스템에서 쉽게 작업할 수 있다. 예를 들어 직원은 자연어를 사용해 봇과 대화하기만 해도 워크플로우에 참여하고 문의를 남길 수 있으며, 봇은 기업 비즈니스 시스템과 연동된다. 
 

하지만 생성형 AI는 불과 몇 달 만에 예측 유지보수와 같은 애플리케이션에서 기존 AI를 한 단계 더 발전시키기 시작했다. 톰슨은 “대화식 상호 작용이 강화됐기 때문에 질문을 한 뒤 장비 상태에 대한 다양한 인사이트를 얻을 수 있다. 내부 및 외부 산업 데이터를 수집하는 데 사용하며, 이를 통해 기존 알고리즘을 학습시켜 민첩한 결과를 제공할 수 있다”라고 설명했다. 

또한 생성형 AI는 아직 기존의 AI를 사용하지 않는 분야의 기업에게도 진입점을 제공한다. 수년 전 분석 도구와 함께 사용하기 위해 데이터 플랫폼을 개발하기 시작한 금융과 같은 업계에서는 이제 동일한 플랫폼에 최신 AI 기술을 실험하고 있다. 

영국계 글로벌 자산 관리 그룹인 야누스 헨더슨(Janus Henderson)의 글로벌 CIO 크리스 헤링쇼는 “생성형 AI는 시장과 기업에 대한 공개 데이터를 분석해 투자 결정을 내리는 데도 사용할 수 있다. 모든 정보를 수동으로 조사하느라 많은 시간을 소비하는 대신, 생성형 AI를 사용해 정보를 요약하고, 필요한 내용이 어디에 있는지 알려주고, 살펴볼 영역을 제안하려 한다”라고 말했다.

조기 도입의 과제와 이점
기업이 생성형 AI를 도입할 때 기반 기술의 성숙도 부족 외에도 극복해야 할 몇 가지 장애물이 있다. 첫 번째는 기존 애플리케이션을 판매하는 벤더와 사내의 전문 지식이 부족하다는 점이다.

사내 전문 지식의 부족은 대부분의 IT 리더가 내려야 하는 ‘구축’ 대 ‘구매’ 결정에 영향을 미친다. 헤링쇼는 “구매가 확실히 더 빠른 결과를 가져다준다. 제품화하고, 확장하고, 기본 인프라를 지원하는 방법을 고민할 필요가 없다. 그리고 지금은 가격이 매우 낮아 탐색 작업을 수행하는 데 비용이 거의 들지 않는다”라고 말했다. 

현재 여러 벤더는 생성형 AI의 채택을 장려하기 위해 비용을 낮추고 있다. 하지만 시간이 지나고 기업들이 모델에 더 많은 데이터를 입력하기 시작하면 점차 벤더에 종속될 가능성이 높다. 또한 특정 영역에 특화된 파생 제품도 나타날 것이다. 다시 말해 일반 버전의 챗GPT를 사용하는 대신 금융 서비스와 같은 특정 산업에 특화된 버전을 사용하는 경우도 늘어날 전망이다.

헤링쇼는 “사용 사례별로 맞춤화된 모델을 다양하게 사용하면 여러 버전이 동시에 실행되기 때문에 구독료도 배로 증가한다. 다만 사업 수익이 비용과 함께 확장되는 경우라면 희망적이다. 투자 프로세스를 혁신할 방법을 찾으면 수익이 비용을 압도할 수 있다”라고 말했다. 
 

단기적으로는 클라우드 기반 모델을 구독하는 방법이 자사 모델의 구축보다 비용이 저렴하며, 이는 장기적으로 봐도 크게 다르지 않다. 모델 구매는 더 빠르고 쉽다는 장점도 있다. 하지만 산업에 맞게 모델을 조정해야 하는 조직이나, 클라우드 기반 서비스에 연결되지 않은 장치에서 추론을 실행하고 AI를 엣지에서 활용하려는 조직에게는 구축이 장기적으로 더 나은 옵션일 수 있다. 

하지만 현재로서 AI 모델을 구축하거나 기존 모델을 조정할 수 있는 숙련된 직원을 보유한 기업은 거의 없다. 아직까지는 대부분의 기업에 AI를 제대로 사용할 만한 전문 지식도 없다. 구매한 제품을 최대한 활용하려면 먼저 기업 데이터를 수집해 모델을 학습시킨 뒤 추론 단계에서 올바른 방식으로 질문을 던져야 한다. 무엇보다도 모델을 의심해야 할 때를 알아야 한다. 

생성형 AI는 기업이 데이터에서 추출할 수 있는 가치를 높이고 궁극적으로 비즈니스 운영 방식을 변화시킬 수 있다. 하지만 디지털에 정통한 기업과 후발주자 간의 격차도 커질 수 있다. 따라서 조직은 구축 또는 구매 중 어떤 방식을 선택하든 일정 수준의 사내 전문성을 개발하기 시작해야 한다. 헤링쇼는 “기술 사용 방식을 개선하기 위해 공식적인 교육을 마련했다. 가장 먼저 개선할 사항은 ‘질문하는 방법’이다”라고 말했다.

기술 부족은 사람들이 모델을 사용하는 방식뿐만 아니라, AI 알고리즘을 포함한다고 주장하는 서드파티 제품의 품질에도 영향을 미칠 수 있다. 생성형 AI의 통합 방법을 두고 기존 애플리케이션 벤더 간의 의견이 여전히 엇갈리기 때문에, 최신 버전의 엔터프라이즈 애플리케이션을 구입하려는 CIO는 이들의 주장을 잘 확인해야 한다.

여러 애플리케이션 벤더의 자문위원회에 참여하고 있는 톰슨은 “기존 기술 벤더는 기업 비즈니스 시스템의 가치를 실현하는 가상 비서를 제공하기 위해 생성형 AI 개발 기업과 파트너십을 맺고 있다. 이들은 보안 및 데이터 프라이버시와 생성형 AI가 약속하는 가치를 제공하는 속도 사이에서 균형을 맞춰야 한다”라고 말했다.

현재 생성형 AI의 실험은 대부분 새로운 기술을 연구할 충분한 리소스가 있는 대기업에 의해 이뤄지고 있다. 하지만 기술의 사용이 대기업에만 국한될 이유는 없다. 

톰슨은 “거버넌스, 보안, 데이터 수집을 제대로 수행한다면 생성형 AI는 소규모 기업을 대기업으로, 그리고 린 기업으로 확장하는 데 도움을 줄 수 있다. 생성형 AI는 비즈니스에서 가장 파괴적인 혁신이 될 것으로 예상한다. 산업을 통합 및 최적화하는 데 기여할 것이며, 이는 새로운 산업 성과 벤치마크를 만들어 기준을 높이고 주주 가치를 실현하도록 할 것이다. 생성형 AI를 수용하지 않는 기업은 도태될 가능성이 있다”라고 내다봤다.

* Pat Brans는 프랑스 그르노블 경영대학원(GEM)의 부교수이자 책 ‘순간을 지배하라: 50명의 CEO가 알려주는 시간 관리의 비밀’의 저자다. ciokr@idg.co.kr