‘고객 문의에 몇 초만에 대응’··· 버라이즌의 자연어처리(NPL) 활용 사례

CIO
성공적으로 비즈니스하기 위해서는 계속 고객들을 행복하게 하는 것이 관건이다. 매달 10만 건이 넘게 접수되는 고객 요청을 처리하기 위해 고군분투하는 버라이즌의 비즈니스 서비스 보증 그룹에게도 해당되는 말이다.

이 그룹은 각각의 고객 요청들을 개별적으로 읽고 대응해야 했었다. 그러나 버라이즌의 IT 그룹인 글로벌 테크놀로지 솔루션(GTS)이 자연어 처리(NLP)와 딥러닝을 활용해 프로세스를 자동화하면서 양상이 달라졌다.

버라이즌 GTS 부문의 시스템 엔지니어링 담당 이사인 스테판 토스는 “기본적으로 디지털 로봇이 자동으로 실행될 수 있는 작업을 수행한다. 이에 따라 인간 엔지니어들은 현실적이고 복잡한 시나리오를 다룰 수 있게 됐다. 우리는 엔지니어들이 이메일 응답에 소비하는 시간을 없애서 복잡한 네트워킹 문제를 처리할 수 있기를 원했다”라고 말했다.
 
ⓒ Stefan Toth
토스 이사는 주로 이메일과 버라이즌의 웹 포털을 통해 엄청난 양의 고객 요청이 유입된다고 설명하며, 이러한 요청에 대한 응답 지연과 인간적인 오류가 고객 경험을 해친다고 전했다. 이에 따라 GTS 부문은 우선 가장 빈번한 요청에 대한 응답을 규칙에 기반한 접근 방식을 사용하여 자동화하려고 시도했었다. 그러나 이러한 방식은 궁극적으로 그 효과가 제한적인 것으로 밝혀졌다. 

토스는 “문맥이 중요할 상황에서는 전통적인 방법이 더 이상 맞지 않는다는 것을 우리는 발견했다. 우리는 고객이 한 말을 이해하려고 노력하면서 조치를 취할 수밖에 없었다”라고 전했다.

결국, 규칙 기반 접근법은 충분히 정확하지는 않았다. 엔지니어들은 참여해야 했으며, 문제가 문제가 해결되기까지 절약된 시간이 거의 없었다. 토스는 “우리는 더 스마트한 무언가가 필요했다는 것을 금방 깨달았다”라고 말했다. 
 
ⓒ Image Credit : Getty Images Bank

고객 서비스 응대 자동화
버라이즌의 머신러닝 엑셀런스 센터와 함께, 비즈니스 팀과 IT 팀은 함께 규칙 기반 시스템에서 발생하는 문제에 디자인 씽킹을 적용했다. 그들은 NLP와 딥러닝이 해결책이 될 수 있다고 결정했다. NLP는 머신러닝을 사용하여 인간의 언어를 처리하고 분석하는 AI의 한 분야다. 

규칙 기반 시스템은 손으로 코딩해야 하며, 정확도를 높이면 복잡성이 증가하므로 상당한 노력이 필요할 수 있다. 반면 NLP 시스템은 훈련된 데이터의 말뭉치에 추가하여 업데이트가 가능하다. 

이렇게 탄생한 산출물이 서비스 보장을 위한 AI 활성화 디지털 워커(AI-Enabled Digital Worker)였다. 버라이즌은 이를 통해 퓨처엣지50상을 수상하기도 했다. 디지털 워커는 일반적인 인바운드 전자적 고객 요청을 자동화하도록 버라이즌의 문제 관리 시스템과 통합돼 운영되고 있다. 
http://www.agendaconference.com/awards/
토스는 “이러한 요청에 대한 응답을 자동화함으로써 우리는 이메일이 전송된 후 몇 시간이 아닌 몇 분 이내에 응답하고 있다”라고 말했다.

이 팀의 데이터 과학자들은 SME(비즈니스 주제 전문가)들과 긴밀하게 협력하여 모델을 구축하고 이를 훈련시킬 수 있는 역사적 데이터를 수집했다. 운영 엔지니어는 알고리즘의 결론을 검토함으로써 프로세스 초기에 피드백 루프를 제공했다.

토스의 팀은 2018년 1분기에 파일럿을 선보였고, 그 후 2018년 3분기까지 거의 모든 고객에 대응할 수 있도록 글로벌 출시했다. 

회사는 2018년 4분기에 실시된 갭 분석을 통해 NLP를 통합하여 디지털 워커를 개선할 수 있는 2가지 추가적인 기회를 확인했다. 

분석 결과, 고객들로부터 들어온 많은 요청들은 단순히 현재 티켓 상태를 확인하거나 수리 진행 상황을 업데이트하기 위한 것이었다. 또 접속 제공업체와 버라이즌 현장 엔지니어가 제공한 응답들은 종종 기술적인 전문용어를 많이 포함하고 있어서 고객들의 혼란과 추가 요청으로 이어졌다. 고객들은 또한 사람이 해석해야 하는 라우터 로그를 제공받고 있었다.

IT 팀은 신경망 기반 딥러닝 기법을 NLP와 통합하여 버라이즌이 수리 티켓에 대해 조치를 취하고 현지 교환 캐리어의 상태를 해석할 수 있게 대응했다. 이로 인해 고객들의 현재 티켓 상태를 업데이트할 수 있게 되었다고 토스는 말했다.

디지털 워커는 작년 2분기부터 매달 거의 1만 시간의 노동시간을 절약해낸 것을 분석된다. 버라이즌은 이제 고객 요청에 몇 시간이 아닌 몇 초 만에 응답할 수 있으며, 더군다나 99% 이상의 정확성으로 대응할 수 있다. 토스는 이제 인간의 개입이 필요한 경우가 1% 미만이며, 지속적으로 모델을 재교육하여 훨씬 더 나은 결과를 만들어내고 있다고 밝혔다.

토스에 따르면 이 프로젝트는 버라이즌 혁신의 중추 모델로 활용될 예정이다. 머신러닝과 AI를 활용한 추가적인 혁신을 위한 모델로 디지털 워커가 사용될 방침이라고 그는 설명했다. 

토스는 “주위를 둘러보고 현업 파트너들과 연결하면 기회를 찾을 수 있을 것이라고 확신한다. 플랫폼에 큰 재정적 투입을 하기 전에 오픈소스를 활용하고 및 여러 실험을 살펴보도록 하라. 우리는 현재 오픈소스에 이용할 수 있는 것이 많다는 것을 발견했다”라고 말했다. ciokr@idg.co.kr