Offcanvas

AI / 머신러닝|딥러닝 / 비즈니스|경제 / 빅데이터 | 애널리틱스 / 애플리케이션

'상담원의 업무 부담뿐 아니라'… 자체 개발한 생성형 AI 도구로 고객 지원 중인 UPS

2024.05.07 Paula Rooney  |  CIO
다국적 해운 기업인 UPS(United Parcel Service)는 고객 메시지 응답을 자동화해 상담원의 처리 시간을 단축하고 전사적으로 생성형 AI를 사용할 기반을 마련하기 위해 대규모 언어 모델(LLM)을 도입했다.
 
ⓒ Getty Images Bank

UPS는 지난해 고객 서비스 운영을 간소화하기 위해 생성형 AI로 전환하기 시작했다. 자체 개발한 프로젝트인 MeRA(Message Response Automation)는 이미 서비스를 제공하고 있다.

UPS에 따르면 지난 7월에 처음 선보인 뒤 10월에 베타 테스트에 돌입한 MeRA는 공개적으로 사용 가능한 LLM을 활용해 일부 고객 문제 처리를 자동화했다. 이를 통해 일관된 메시지를 제공하고 상담원 효율성, 즉 처리 시간을 크게 개선했다.

UPS의 최고 디지털 및 기술 책임자인 발라 수브라마니안은 컨택센터 상담원뿐만 아니라 가까운 미래에 다른 비즈니스 프로세스에도 생성형 AI를 도입하고 성공을 거둘 것으로 기대했다.

수브라마니안은 "MeRA의 도입으로 UPS는 업계 최고의 고객 서비스에 대한 접근 방식을 혁신했다. 상담원의 업무 부담이 줄어 더 복잡하고 미묘한 고객 요구 사항에 집중할 수 있게 됐다"라고 설명했다.

MeRA를 통해 UPS는 2024 CIO 100 어워드에서 IT 혁신 및 리더십 부문을 수상했다. 기업에 따르면 MeRA는 매일 수신하는 약 52,000건의 고객 이메일 중 일부에 대한 응답을 자동화하며, 파일럿 테스트 기간 동안 상담원이 이메일을 해결하는 데 소요되는 시간을 50% 단축했다. LLM은 모델이 제안한 모든 응답을 확인할 수 있는 기능을 상담원에게 제공한다. 수브라마니안은 표준화된 워크플로우를 통해 상담원이 확인하는 역할로 전환함으로써 시간과 비용을 모두 절약할 수 있었다고 말했다.

한편 IDC의 컨설팅 및 연구 그룹 부사장인 다니엘 사로프는 고객 서비스가 오늘날 기업에서 생성형 AI의 주요 사용 사례 중 하나로 부상하고 있다고 언급했다.

사로프는 지난 1월 실시된 IDC의 미래 기업 회복 탄력성 및 지출 설문조사 웨이브1 연구를 인용하며 "향후 18개월 이내에 생성형 AI로 인해 비즈니스에 상당한 영향을 받을 것이라고 생각하는 기업들은 고객 대면 애플리케이션(30.8%)을 가장 많이 언급했다. 기업들은 고객 대면 앱에 생성형 AI를 적용하지 않으면 업무 중단의 위험이 높아질 것을 우려하고 있다"라고 설명했다.

확장을 위한 설계
UPS에게 있어 컨택센터의 생성형 AI 사용은 발판에 지나지 않는다. R&D팀이 지난해 11월에 제한적으로 출시한 MeRA는 모든 범주의 고객 접점에 적용되고 확장될 전망이다. 수브라마니안은 인사, 영업, 재무 등 기업 내 다른 부서에도 적용될 것이라고 말했다.

그는 MeRA를 통해 UPS가 AI 교육에 대한 접근 방식을 재고하고 개선하게 됐다며 "MeRA와의 여정은 이제 막 시작됐다. 이 프레임워크는 UPS 콜센터의 혁신일 뿐만 아니라 기업 전반의 미래 AI 애플리케이션을 위한 청사진이다"라고 언급했다.

이 AI 도구는 고객 상담원이 기업 절차에 액세스하는 데 사용하는 지식 기반과 수많은 고객 질문에 응답하기 위해 데이터를 활용한다. UPS에 따르면 MeRA의 주요 특징은 '생각의 사슬(Chain of Thought)'이라고 불리는 순차적 추론 논리 프레임워크와 고객 질문에 대한 답변 톤을 사용자 지정하는 기능 등 고급 감정 분석 기능을 사용한다는 점이다.

수브라마니안은 MeRA의 정교함을 설명하기 위해 전형적인 고객 요청 중 하나인 '픽업을 위한 패키지 보관'을 예로 들었다. 그는 이 요청에 포장물 추적 기록, 발송인이 지정한 포장물 제한 사항, UPS 배송 기사의 이전 배송 시도 등 다양한 요인에 따라 최소 3가지의 해결책을 제시할 수 있다고 설명했다.

그는 "패키지 추적 기록은 이메일 지원 상담원이 인터널 비저빌리티 포털(Internal Visibility Portal)에서 실시간으로 가져올 수 있으며, 패키지의 이력과 현재 배송 중인 위치를 보여준다. 상담원은 다양한 시나리오에 대응하는 방법을 파악하기 위해 이 정보를 참조해야 한다"라고 말했다.

분석가들은 이 모델이 정책, 절차, 배송 데이터와 같은 기업 데이터를 사용해 고객 서비스를 자동화하고 개선하는 사례를 통해 아직 초기 단계에 있는 생성형 AI가 인간과의 협업을 향해 한 걸음씩 나아가고 있음을 알 수 있다고 진단했다.

포레스터의 애널리스트 로웬 커런과 제이피 가우더는 지난해 11월 UPS 블로그에서 "2023년 상반기에는 특히 마케팅, 영업, 개발팀에서 글쓰기, 콘텐츠 제작, 코딩 작업의 생산성을 높이는 방법에 초점을 맞춘 사용 사례가 많았다. 오늘날 생성형 AI 사용 사례는 개인을 넘어 조직 지식을 연결하기 위해 조직 내부로 더 깊이 침투하고 있다. 이런 애플리케이션이 더 많은 지식에 액세스함에 따라 개인과 팀을 상호 연결해 인간뿐 아니라 인간과 기계 간의 협업을 개선하고 있다"라고 설명했다.

MIT 슬론 경영대학원의 선임 강사이자 글로벌 기회 포럼(Global Opportunity Forum)의 창립자인 조지 웨스터만도 고객 서비스가 기업 생성형 AI 전략의 훌륭한 출발점이 될 것으로 봤다.

웨스터만은 "기업들이 생성형 AI를 가장 많이 도입하는 분야 중 하나가 고객 서비스"라며 "이는 일상적인 정보 수집과 대개 한두 단계의 지원을 처리할 수 있다. 따라서 인간 상담원은 더 복잡한 질문을 처리할 여유를 갖게 된다"라고 말했다.

수브라마니안은 MeRA가 약 6개월 만에 구상되고 생산에 투입되긴 했지만, UPS가 단계적 접근 방식을 통해 "시스템을 철저히 테스트하고 미세 조정해 본격적인 배포 시 MeRA가 운영에 원활하게 통합될 수 있도록 했다"라고 설명했다.

그는 생성형 AI가 계속 변화하는 목표이기 때문에 오늘날 CIO와 IT 전문가들에게 큰 과제를 안겨주고 있다면서, 끊임없이 변화하는 AI 도구의 특성과 관련된 수많은 변수가 R&D팀에게 과제를 제시한다고 말했다. 그럼에도 불구하고 수브라마니안은 MeRA가 계속해서 진화하면서 복잡한 고객 요청과 비즈니스 프로세스를 처리하는 방법을 학습할 것이라고 확신했다.

그는 "생성형 AI 분야는 매달 새로운 솔루션, 프레임워크, 모델이 발표되고 끝없이 변화하고 있다"라고 말했다. 따라서 그는 팀이 맞춤형 이메일을 이해하도록 모델을 가르친 다음 정책과 절차에 따라 올바른 응답을 제공해야 했다고 언급했다.

UPS는 범용 LLM이 비즈니스에 기대하는 것과는 다른 방식으로 단어와 구문을 이해하거나 처리하는 경우가 있었다고 말했다. 그 결과 UPS는 기업 데이터세트에 대한 모델 학습에 더 투자하고 있다.

MeRA의 경우 마이크로소프트 오픈AI LLM, GPT3.5 터보 및 GPT4로 시작했다. 앞으로 UPS는 다각적인 생성형 AI 전략를 시도하며 각 프레임워크를 평가할 방침이다. 회사 관계자는 "기술이 매우 빠르게 발전하고 있기 때문에 특정 모델에 얽매이지 않고자 한다"라고 설명했다.

수브라마니안은 "UPS는 비즈니스 규칙과 지식 기반에 대해 학습된 맞춤형 AI 에이전트 프레임워크를 구현하고 이를 미세 조정해 응답을 생성하도록 LLM에 올바른 컨텍스트를 제공하는 데 있어 일관된 정확성을 확보했다"라고 말했다. 그는 이런 접근 방식이 회사가 컨택센터를 넘어 기업 전체에 도구를 제공하고, MeRA에도 도움이 될 것이라고 내다봤다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.