‘IT 서비스 데스크, 생성형 AI로 자동화’… 북미 토요타의 애자일 접근법

북미 토요타 자동차(Toyota Motor North America)는 인소싱과 품질 관리를 촉진하기 위해 HR 및 IT 서비스 데스크 문의에 생성형 AI를 활용하고 있다.
 

북미 토요타 인프라 및 운영 서비스 부문 IT 임원 겸 총괄 매니저인 제이슨 발라드는 “2025년까지 기존 서비스 데스크를 없애는 것이 목표”라고 말했다.

발라드는 전기차로 전환 중인 토요타의 배터리 전기차(BEV) 플랫폼과 디지털 플랫폼 엔지니어링 및 아키텍처 조직을 모두 책임지고 있는 기술 임원이다. 그는 대화형 AI와 생성형 AI를 HR 및 IT 서비스 요청을 혁신하는 주요 구성 요소로 활용하고 있다.

또한 발라드는 애자일 데브옵스(DevOps) 개념을 열렬히 따르고 있다. 이는 기술에 관해서는 ‘왼쪽으로 이동(shifting left)’, 다시 말해 일반적으로 코드를 작성하기 전 개발 프로세스 초기에 테스트와 평가를 수행하며, 인재에 관해서는 서비스 데스크를 없애려는 토요타의 비전처럼 ‘오른쪽으로 이동(shifting right)’하는 것을 추구하고 있다. 그러나 이는 직책을 없애는 것이 아니라 팀원들이 더 가치 있는 역할을 수행할 수 있도록 개발해 기술 인재를 ‘인소싱’하려는 목적이다.

그는 “처음에는 일자리를 줄이는 것처럼 들리지만, 실제로는 인재에 초점을 맞춘다. 레벨 1 기술자 업무는 다소 반복적이기 때문에 해당 직군의 직원 대부분은 레벨 2 또는 3으로 올라가고 싶어 한다. 어떻게 하면 이러한 직원의 직급을 높이고 기술을 향상해 더 가치 있는 직무로 이동시키는 동시에 전사적으로 더 많은 자동화를 추진할 수 있을지에 집중하고 있다”라고 설명했다.

토요타는 로봇 프로세스 자동화(RPA)에 기반을 둔 생성형 AI 분야의 선도 기업 중 하나다. 2014년까지 토요타 북미 본사는 영업과 제조를 위한 별도 조직을 운영했지만, 2015년 ‘하나의 토요타’라는 슬로건으로 텍사스주 플라노에 본사를 통합했다.

발라드는 “상상할 수 있듯이, 각기 다른 팀원이 기업을 운영하기 위해 매우 다양한 시스템을 사용했다. 효율성을 높이기 위해 공통된 기술 스택을 확보하는 데 집중했다”라고 회고했다.

이러한 노력의 일환으로 발라드는 2017년 RPA를 도입했다. 그에 따르면 첫해에 15만 시간 이상의 반복 업무 시간을 절약했다. RPA 이니셔티브는 프로세스를 자동화하고 최적화하기 위해 IT 부서가 할 수 있는 일이 더 많다는 점을 알리는 계기였다. 이후 2020년에는 디지털 플랫폼 엔지니어링 팀을 이끌며 IT 서비스 데스크로 눈을 돌렸다.

그는 “팀원들이 IT 서비스 데스크와 소통하는 방식을 바꾸고 싶었다. 중요한 원래 업무로 돌아갈 수 있도록 대화를 시작하고 빠르게 해결책을 찾는 기능이 필요했다”라고 말했다.

중앙 집중식 지원
2021년 발라드는 AI 플랫폼 전문 업체인 무브웍스(Moveworks)와 협업해 4만 5,000여 명의 북미 토요타 직원이 업무상 도움을 요청할 수 있는 중앙 집중식 공간을 마련했다. ‘에이전트애스크(AgentAsk)’라고 불리는 이 서비스는 권한, 통합, 보안, 프라이버시 보호 등 기업의 요구 사항을 충족하면서 챗GPT와 유사한 경험을 제공한다.

발라드에 따르면 에이전트애스크는 지난 한 해 동안 약 70,000건의 문제를 해결하고 약 100,000건의 문제 해결을 가속화했다. 그는 이 서비스를 통해 회사의 서비스 데스크가 비밀번호 재설정이나 계정 잠금 해제보다는, 하드웨어 요청 및 소프트웨어 승인과 같은 중요한 신속 처리 티켓에 집중할 수 있게 됐다고 설명했다. 에이전트애스크는 전자의 경우 매달 약 164건, 후자를 약 458건을 처리하고 있다. 

에이전트애스크의 평균 해결 시간(MTTR)은 11.4분으로 업계 평균인 3일보다 훨씬 짧다. 이 서비스를 통해 직원과 상담원은 지난해에만 70,000시간 이상의 생산성을 되찾았다. 발라드는 에이전트애스크가 매주 레벨 1 서비스 기술자 25명분의 업무를 수행하고 있다고 설명했다.

예를 들어 과거에 발라드의 팀은 처리해야 할 미결 승인 건수를 파악하기 위해 여러 기업 시스템을 탐색하는 데 많은 시간을 할애했다. 발라드는 “이제 마이크로소프트 팀즈(Teams)를 통해 에이전트애스크로 이동하고 어떤 승인이 미결 상태인지 물어볼 수 있다. 각 플랫폼을 탐색하고 로그인하는 데 많은 시간을 소비하지 않는다. 몇 초 만에 이 작업을 수행할 수 있다”라고 덧붙였다.

에이전트애스크는 토요타에서 처음으로 사용한 생성형 AI 기술이었다. 따라서 발라드는 회사의 사이버 보안 부서와 강력한 파트너십을 구축해 모든 보안 고려 사항을 처리할 수 있도록 지원했다. 기술 구현을 원활하게 이뤄졌고, 며칠 만에 에이전트애스크와 팀즈를 통합해 다른 직원들이 사용할 수 있도록 했다고 그는 설명했다. 

그는 “기술적인 측면보다는 조직의 변화 관리, 사고방식, 교육, 손쉽게 솔루션을 사용할 수 있다는 인식 등 사람의 관점에서 접근하는 것이 주요 과제였다”라고 말했다.

널리 퍼뜨리기
발라드에 따르면 지금까지 토요타 직원의 75%에서 80% 정도가 문제를 해결하기 위해 에이전트애스크를 사용했으며, 모든 직원이 매일 이 서비스를 사용하는 것이 목표다. 이 팀은 토요타의 디지털 사이니지를 통해 에이전트애스크를 직원에게 홍보하고 기능을 알리고 있다. 또한 이 서비스가 어떤 도움을 줄 수 있는지 매달 안내 메일을 보내고 있다.

비밀번호 재설정과 계정 잠금 해제가 좋은 시작이긴 하지만, 발라드는 토론을 위한 치과 정책 옵션 비교 초안을 작성하는 것처럼 기술에 있어 이를 더 다양하게 활용할 방안을 모색하고 있다. 직원들은 이미 재무, 법률, 여행 및 경비 등을 아우르는 질문을 직관적으로 하기 시작했다.

발라드는 수년간의 생성형 AI 경험을 바탕으로 이 기술을 도입하려는 IT 리더들에게 몇 가지 조언을 건넸다.

우선, IT 리더는 다른 기술 제품을 스택에 추가하기 전에 비즈니스 문제와 기회를 파악해야 한다. 초기 가설을 증명하기 위해 범위와 팀 규모를 작게 시작하고, CIO는 ‘기어가고, 걷고, 뛰는 접근 방식’을 취해 새로운 솔루션이 제공하는 가치를 검증한다. 그래야 조직이 이에 동참하도록 할 수 있다.

발라드는 “조직의 변화 관리를 과소평가해서는 안 된다”라고 강조하며, IT 리더가 단순히 제시된 사용 사례만 추구하기보다는 직원들로부터 거꾸로 작업하고 수행 중인 업무의 엔드투엔드(E2E) 특성을 고려해 기술 배포를 구성해야 한다고 덧붙였다. 

또한 그는 미래를 내다보고 과감하게 투자하는 것이 중요하다며 “항상 팀의 노력을 목표와 일치시켜야 한다”라고 말했다. ciokr@idg.co.kr