2020.10.13

전사 혁신 이끄는 동력 센터··· ‘AI CoE’에 주목하는 기업들

Maria Korolov | CIO
AI 도입을 가속화하거나 전사적 혁신을 도모하려는 기업이라면 AI 탁월성 센터(Coe ; centers of excellence)를 검토할 만한다. 인재를 집중시키고 플랫폼을 표준화하며 기업 전반에 걸쳐 성공의 경험을 촉진시킬 수 있는 조직이기 때문이다. 

쉘(Shell)이 2013년 처음 AI CoE(AI Center of Excellence)를 개소했을 때만 해도 규모는 그리 크지 않았다. 또 AI보다는 예측 분석에 치중하고 있었다. 현재 180명의 데이터 사이언티스트 및 엔지니어 정직원들이 근무하고 있는 쉘의 DSCoE(Data Science Center of Excellence)의 책임자 댄 지본스 “사실상 나뿐이었다”라고 회고했다.

본래 해당 CoE의 목적은 분석 관련 프로젝트를 수행하는 사업부를 지원하는 것이었다. 그는 “현업 관련 프로젝트가 빠르게 증가했다. 이에 따라 일부 리더들은 조율의 필요성을 깨달았다. 당초 의도는 사업부 지원이었지만 나중에는 사업부들이 스스로 할 수 있도록 지원하고자 했다”라고 말했다.

하지만 AI는 심층적인 기술이 필요하다. 현업 부서의 데이터 인력들은 딥러닝이나 머신 비전, 자연어 처리 등에 대한 전문지식이 부족했다. 또한 사업부들이 역량을 키워나가면서 각기 다른 접근방식을 취하기 시작했다.

지본스는 “공통의 기준을 만들고 데이터에 액세스하는 공통의 플랫폼을 만들며 확보 프로세스를 개발해야 할 필요성이 커졌다”라고 말했다.

그 결과, 쉘 CoE의 역할이 확장됐다. 심층적이고 특화된 기술을 갖고 있는 사람들이 더 많이 참여하게 됐으며, 여러 기준과 정책을 수립하는 업무까지 담당하게 됐다. 

현재, 쉘은 대부분의 AI 프로젝트에 마이크로소프트 애저를 활용하며 일부는 AWS에서 수행되고 있다고 지본스가 말했다. 또한 해당 기업은 데이터 분석 기업 데이터브릭스(Databricks) 및 C3와 긴밀하게 협력하고 있으며, 이 외에도 많은 파트너들과 협력하고 있다. 이 덕분에 해당 기업의 AI 솔루션 개발 속도가 가속화되었다고 지본스가 말했다.

대대적인 AI 성공을 원하는 조직들의 경우 이런 중앙 집중적 접근방식이 유효할 수 있다. 딜로이트가 7월 공개한 최신 기업 내 AI 실태 설문조사에 따르면 AI 도입을 검토하는 기업들이 기술 및 벤더 선택에 있어서 더욱 중앙 집중적인 접근방식을 취할 가능성이 높다.

딜로이트 컨설팅의 데이브 쿠더 수석은 “전문가 조직이 없으면 8~10개 사업 분야에 맞춰 따로 투자해야 하고 서로 다른 분야에서 IT에 접근하기 때문에 투자 효율성이 낮아진다”라고 말하면서 AI CoE는 기업들이 단일 프로젝트 프로토타입과 개념 증명에서 대규모 AI 배치로 이행하도록 도울 수 있다고 덧붙였다.

그는 “이제는 지난 수 년 동안 일어난 이질적인 활동을 산업화, 강화 및 운영화해야 한다. AI전문가 조직은 이와 관련해 큰 역할을 한다. 이런 활동 중 일부를 조율하는 데 있어서 중요한 주춧돌이다”라고 말했다.

쉘의 경험에서 알 수 있듯이 내부 전문지식 및 보편적인 플랫폼과 표준 개발은 AI CoE 라이프사이클을 수립하는 첫 걸음이다. 오늘날 AI CoE가 기업들에게 어떤 영향을 미치는지 살펴본다.
 
Image Credit : Getty Images Bank


대규모 AI
QTS 데이터 센터스(QTS Data Centers)는 자사의 AI 여정을 가속화하기 위해 2년 전 QTS 이노베이션 랩(QTS Innovation Lab)을 설립했다. 전 세계적으로 26개의 데이터센터를 운영하고 있는 QTS의 제품 CTO 브렌트 벤슨은 “우리의 사업은 성장하고 있었고 우리의 아날로그 프로세스는 비효율적이었다”라고 말했다.

예를 들어, 한 엔지니어는 100만 제곱미터 크기의 건물들이 있는 QTS 시설 주위를 돌아다니면서 모든 장비를 직접 확인했다. 벤슨은 “엔지니어가 에어컨 패널로 가서 값을 측정하고 클립보드에 수기로 작성한 후 돌아와서 ‘모두 정상’에 체크한다. 기초적인 데이터 포인트가 없고 단순히 ‘모두 정상’이었다.”

그래서 QTS 이노베이션 랩의 첫 번째 목표는 이 프로세스를 디지털화하여 비즈니스 효율성을 높이는 것이었다. 현재 이 모든 측정값이 자동으로 상세하게 수집되고 해당 기업의 운영에 대한 완전한 디지털 기록을 제공한다. 이제 이 데이터를 활용하여 전력 수요를 예측하고 유지보수를 최적화하며 해당 기업의 탄소 배출량을 최소화할 수 있다.

그는 “이 모든 것이 이제는 AI에 의해 관리 및 운영된다. 완전한 디지털 경험이다”라고 말했다. 시간의 약 90%를 AI 프로젝트에 소요하는 해당 연구소는 서비스나우와 세일즈포스 등의 제3자 플랫폼을 통합하도록 시스템을 구성했다. 벤슨은 “거버넌스를 중앙에 치중했고 이를 통해 더욱 광범위한 QTX 포트폴리오에서 디지털 경험을 제공할 수 있었다”라고 말했다.

내부적으로만 이득을 본 것이 아니었다. 이 예측 도구는 해당 기업의 고객들에게도 도움이 되었다. 벤슨은 “AI, 머신러닝, 신경망 개념을 활용함으로써 우리는 미래에 발생할 일, 고장 정지, 실패, 소비 전력 등을 예측할 수 있다”라고 말했다. 여기에는 최대 60일까지 고객의 전력 활용도를 예측하는 능력도 포함된다. 그 결과, QTS의 고객들은 환경에 대해 더욱 유동적이며 전력 비용을 낮추고 문제를 방지할 수 있다고 그가 말했다.

그는 이어 “그리고 그들은 탄소 발자국을 줄일 수 있다. 우리가 그들에게 데이터를 제공하기 때문에 그들은 지속 가능성 크레딧을 확보할 수 있다”라고 덧붙였다.

언스트앤영(Ernst&Young, E&Y)은 2016년에 AI CoE를 출범시켰다. E&Y의 AI CoE 머신러닝 부책임자 조나단 데강지는 이 조직이 대규모 AI 도입 가속화에 도움이 되었다고 말했다.

그는 “예전에는 서로 다른 그룹이 서로 소통하지 않는 사일로 현상이 있었다”라고 말했다. E&Y는 돈세탁 차단 등의 대규모 프로젝트를 수행하려 하고 있었고, 이를 위해 사업부와 여러 지사들 사이의 조율이 필요했다.

E&Y의 재무서비스실 수석 칼 케이스는 “특정 영역으로 전문지식을 모을 때 효과가 배가된다”라고 말했다. 그는 AI 프로젝트에 AI CoE를 활용하려 하고 있다. “그리고 우리는 금융위기, 복잡한 세법 및 규정, 업무의 미래와 디지털 혁신의 영향 등 매우 크고 복잡한 문제를 해결하려 하고 있다”라고 말했다.

글로벌 AI CoE가 형성되기 전에 그의 팀은 미국의 소규모 AI팀과 상호작용하고 있었다. 하지만 글로벌 센터가 개장하면서 케이스의 팀은 좀더 크게 생각할 수 있게 되었다. 데강지는 “일례로 우리는 마약 및 인신매매 조직들을 파악하고 그들을 차단했다”라고 말했다. 그래프 기반 네트워킹 접근방식과 이상 감지를 활용하는 AI 시스템은 단순히 개인적인 거래뿐 아니라 의심스러운 행동 패턴을 확인할 수 있도록 해줬다.

그는 “이제 네트워크 전체가 어떻게 움직이는지 볼 수 있게 되었다. 새로운 관계가 비정상적인 방식으로 형성되고 있는가? 예를 들어, 범죄 조직이 계좌를 개설하고 거래하는 방식은 적법한 새로운 사업을 시작하는 사람과 크게 달라 보인다. AI로 감지할 수 있는 패턴에는 큰 차이가 있다”라고 말했다.

학습 이전
AI CoE를 통해 내부 전문지식과 보편적인 플랫폼이 구성되면 다음 단계는 기업 전반에 걸쳐 모범 사례를 공유하는 것이다. 쉘의 지본스는 “우리의 경우 조직의 경계를 존중하지 않는다”라고 표현했다. 

예를 들어, 예측 유지관리는 쉘의 거의 모든 사업부에 적용할 수 있으며 AI CoE를 출범하면서 한 영역에서 개발한 기술을 여러 다른 곳에 배포할 수 있게 되었다.

지본스가 “머신 비전은 또 다른 예이다. 우리는 소매 분야의 사용례를 개발하고 있지만 이런 사용례 이면의 기능을 활성화하는 것은 제조 사이트 점검에 적용하고 문제가 있는 부분을 살펴볼 수 있다”라고 말했다.

GE도 여러 사업부에서 AI를 활용하기 위해 AI CoE를 출범했다. 제조 효율성을 높이기 위해 식스 시그마 및 린 방법론을 활용하는 것으로 알려진 GE는 현재 AI를 활용하여 조직의 다른 영역에 같은 종류의 프로세스 개선을 적용하고 있다. 




2020.10.13

전사 혁신 이끄는 동력 센터··· ‘AI CoE’에 주목하는 기업들

Maria Korolov | CIO
AI 도입을 가속화하거나 전사적 혁신을 도모하려는 기업이라면 AI 탁월성 센터(Coe ; centers of excellence)를 검토할 만한다. 인재를 집중시키고 플랫폼을 표준화하며 기업 전반에 걸쳐 성공의 경험을 촉진시킬 수 있는 조직이기 때문이다. 

쉘(Shell)이 2013년 처음 AI CoE(AI Center of Excellence)를 개소했을 때만 해도 규모는 그리 크지 않았다. 또 AI보다는 예측 분석에 치중하고 있었다. 현재 180명의 데이터 사이언티스트 및 엔지니어 정직원들이 근무하고 있는 쉘의 DSCoE(Data Science Center of Excellence)의 책임자 댄 지본스 “사실상 나뿐이었다”라고 회고했다.

본래 해당 CoE의 목적은 분석 관련 프로젝트를 수행하는 사업부를 지원하는 것이었다. 그는 “현업 관련 프로젝트가 빠르게 증가했다. 이에 따라 일부 리더들은 조율의 필요성을 깨달았다. 당초 의도는 사업부 지원이었지만 나중에는 사업부들이 스스로 할 수 있도록 지원하고자 했다”라고 말했다.

하지만 AI는 심층적인 기술이 필요하다. 현업 부서의 데이터 인력들은 딥러닝이나 머신 비전, 자연어 처리 등에 대한 전문지식이 부족했다. 또한 사업부들이 역량을 키워나가면서 각기 다른 접근방식을 취하기 시작했다.

지본스는 “공통의 기준을 만들고 데이터에 액세스하는 공통의 플랫폼을 만들며 확보 프로세스를 개발해야 할 필요성이 커졌다”라고 말했다.

그 결과, 쉘 CoE의 역할이 확장됐다. 심층적이고 특화된 기술을 갖고 있는 사람들이 더 많이 참여하게 됐으며, 여러 기준과 정책을 수립하는 업무까지 담당하게 됐다. 

현재, 쉘은 대부분의 AI 프로젝트에 마이크로소프트 애저를 활용하며 일부는 AWS에서 수행되고 있다고 지본스가 말했다. 또한 해당 기업은 데이터 분석 기업 데이터브릭스(Databricks) 및 C3와 긴밀하게 협력하고 있으며, 이 외에도 많은 파트너들과 협력하고 있다. 이 덕분에 해당 기업의 AI 솔루션 개발 속도가 가속화되었다고 지본스가 말했다.

대대적인 AI 성공을 원하는 조직들의 경우 이런 중앙 집중적 접근방식이 유효할 수 있다. 딜로이트가 7월 공개한 최신 기업 내 AI 실태 설문조사에 따르면 AI 도입을 검토하는 기업들이 기술 및 벤더 선택에 있어서 더욱 중앙 집중적인 접근방식을 취할 가능성이 높다.

딜로이트 컨설팅의 데이브 쿠더 수석은 “전문가 조직이 없으면 8~10개 사업 분야에 맞춰 따로 투자해야 하고 서로 다른 분야에서 IT에 접근하기 때문에 투자 효율성이 낮아진다”라고 말하면서 AI CoE는 기업들이 단일 프로젝트 프로토타입과 개념 증명에서 대규모 AI 배치로 이행하도록 도울 수 있다고 덧붙였다.

그는 “이제는 지난 수 년 동안 일어난 이질적인 활동을 산업화, 강화 및 운영화해야 한다. AI전문가 조직은 이와 관련해 큰 역할을 한다. 이런 활동 중 일부를 조율하는 데 있어서 중요한 주춧돌이다”라고 말했다.

쉘의 경험에서 알 수 있듯이 내부 전문지식 및 보편적인 플랫폼과 표준 개발은 AI CoE 라이프사이클을 수립하는 첫 걸음이다. 오늘날 AI CoE가 기업들에게 어떤 영향을 미치는지 살펴본다.
 
Image Credit : Getty Images Bank


대규모 AI
QTS 데이터 센터스(QTS Data Centers)는 자사의 AI 여정을 가속화하기 위해 2년 전 QTS 이노베이션 랩(QTS Innovation Lab)을 설립했다. 전 세계적으로 26개의 데이터센터를 운영하고 있는 QTS의 제품 CTO 브렌트 벤슨은 “우리의 사업은 성장하고 있었고 우리의 아날로그 프로세스는 비효율적이었다”라고 말했다.

예를 들어, 한 엔지니어는 100만 제곱미터 크기의 건물들이 있는 QTS 시설 주위를 돌아다니면서 모든 장비를 직접 확인했다. 벤슨은 “엔지니어가 에어컨 패널로 가서 값을 측정하고 클립보드에 수기로 작성한 후 돌아와서 ‘모두 정상’에 체크한다. 기초적인 데이터 포인트가 없고 단순히 ‘모두 정상’이었다.”

그래서 QTS 이노베이션 랩의 첫 번째 목표는 이 프로세스를 디지털화하여 비즈니스 효율성을 높이는 것이었다. 현재 이 모든 측정값이 자동으로 상세하게 수집되고 해당 기업의 운영에 대한 완전한 디지털 기록을 제공한다. 이제 이 데이터를 활용하여 전력 수요를 예측하고 유지보수를 최적화하며 해당 기업의 탄소 배출량을 최소화할 수 있다.

그는 “이 모든 것이 이제는 AI에 의해 관리 및 운영된다. 완전한 디지털 경험이다”라고 말했다. 시간의 약 90%를 AI 프로젝트에 소요하는 해당 연구소는 서비스나우와 세일즈포스 등의 제3자 플랫폼을 통합하도록 시스템을 구성했다. 벤슨은 “거버넌스를 중앙에 치중했고 이를 통해 더욱 광범위한 QTX 포트폴리오에서 디지털 경험을 제공할 수 있었다”라고 말했다.

내부적으로만 이득을 본 것이 아니었다. 이 예측 도구는 해당 기업의 고객들에게도 도움이 되었다. 벤슨은 “AI, 머신러닝, 신경망 개념을 활용함으로써 우리는 미래에 발생할 일, 고장 정지, 실패, 소비 전력 등을 예측할 수 있다”라고 말했다. 여기에는 최대 60일까지 고객의 전력 활용도를 예측하는 능력도 포함된다. 그 결과, QTS의 고객들은 환경에 대해 더욱 유동적이며 전력 비용을 낮추고 문제를 방지할 수 있다고 그가 말했다.

그는 이어 “그리고 그들은 탄소 발자국을 줄일 수 있다. 우리가 그들에게 데이터를 제공하기 때문에 그들은 지속 가능성 크레딧을 확보할 수 있다”라고 덧붙였다.

언스트앤영(Ernst&Young, E&Y)은 2016년에 AI CoE를 출범시켰다. E&Y의 AI CoE 머신러닝 부책임자 조나단 데강지는 이 조직이 대규모 AI 도입 가속화에 도움이 되었다고 말했다.

그는 “예전에는 서로 다른 그룹이 서로 소통하지 않는 사일로 현상이 있었다”라고 말했다. E&Y는 돈세탁 차단 등의 대규모 프로젝트를 수행하려 하고 있었고, 이를 위해 사업부와 여러 지사들 사이의 조율이 필요했다.

E&Y의 재무서비스실 수석 칼 케이스는 “특정 영역으로 전문지식을 모을 때 효과가 배가된다”라고 말했다. 그는 AI 프로젝트에 AI CoE를 활용하려 하고 있다. “그리고 우리는 금융위기, 복잡한 세법 및 규정, 업무의 미래와 디지털 혁신의 영향 등 매우 크고 복잡한 문제를 해결하려 하고 있다”라고 말했다.

글로벌 AI CoE가 형성되기 전에 그의 팀은 미국의 소규모 AI팀과 상호작용하고 있었다. 하지만 글로벌 센터가 개장하면서 케이스의 팀은 좀더 크게 생각할 수 있게 되었다. 데강지는 “일례로 우리는 마약 및 인신매매 조직들을 파악하고 그들을 차단했다”라고 말했다. 그래프 기반 네트워킹 접근방식과 이상 감지를 활용하는 AI 시스템은 단순히 개인적인 거래뿐 아니라 의심스러운 행동 패턴을 확인할 수 있도록 해줬다.

그는 “이제 네트워크 전체가 어떻게 움직이는지 볼 수 있게 되었다. 새로운 관계가 비정상적인 방식으로 형성되고 있는가? 예를 들어, 범죄 조직이 계좌를 개설하고 거래하는 방식은 적법한 새로운 사업을 시작하는 사람과 크게 달라 보인다. AI로 감지할 수 있는 패턴에는 큰 차이가 있다”라고 말했다.

학습 이전
AI CoE를 통해 내부 전문지식과 보편적인 플랫폼이 구성되면 다음 단계는 기업 전반에 걸쳐 모범 사례를 공유하는 것이다. 쉘의 지본스는 “우리의 경우 조직의 경계를 존중하지 않는다”라고 표현했다. 

예를 들어, 예측 유지관리는 쉘의 거의 모든 사업부에 적용할 수 있으며 AI CoE를 출범하면서 한 영역에서 개발한 기술을 여러 다른 곳에 배포할 수 있게 되었다.

지본스가 “머신 비전은 또 다른 예이다. 우리는 소매 분야의 사용례를 개발하고 있지만 이런 사용례 이면의 기능을 활성화하는 것은 제조 사이트 점검에 적용하고 문제가 있는 부분을 살펴볼 수 있다”라고 말했다.

GE도 여러 사업부에서 AI를 활용하기 위해 AI CoE를 출범했다. 제조 효율성을 높이기 위해 식스 시그마 및 린 방법론을 활용하는 것으로 알려진 GE는 현재 AI를 활용하여 조직의 다른 영역에 같은 종류의 프로세스 개선을 적용하고 있다. 


X