2020.03.09

"3년 내 기업 40%가 활용"··· AI옵스란?

Maria Korolov | CIO
클라우드 플랫폼, 매니지드 서비스 제공업체, 디지털 트랜스포메이션을 추진하는 기업이 새로운 IT 트렌드, AI옵스(AlOps)의 이점을 누리기 시작하고 있다. 

AI옵스는 부정적 영향을 미칠 수 있는 운영 중단 등의 문제를 사전 예측해준다. 더 나아가 향상된 AI옵스는 장애를 선제적으로 파악 및 예측하는 것뿐만 아니라 자동화와 지능화를 구현해 장애에 대응할 수 있게 해준다. 

AI옵스가 무엇인가? 오늘날 기업들이 AI옵스를 어떻게 사용하고 있는가? AI옵스와 관련한 기술, 전략, 과제에 대해 자세히 살펴본다. 
 
ⓒGetty Images

AI옵스란? 
AI옵스는 IT 운영 관리에 인공지능을 적용한 것이다. 인프라, 네트워크, 애플리케이션을 지능적으로 관리할 수 있다. AI옵스는 문제 발생 시 실행되는 경보 시스템과 수동으로 처리하는 기존 방식을 AI와 ML 시스템으로 전환한다. 이를 통해 IT 운영 관리를 좀 더 효율화하는 것은 물론 부정적인 영향을 미칠 수 있는 사건·사고를 미연에 예측할 수 있게 해준다.

미국 의류회사 칼하트의 CIO 존 힐은 AI옵스를 3가지 주요 영역, 서비스 관리/성능 관리/IT 자동화에서 활용한다고 말했다. 그는 지능적인 모니터링 덕분에 이제 장애를 사전에 발견할 수 있다고 밝혔다.

힐은 AI옵스에 대해 기업 환경을 모니터링하고 현황을 파악하며, 이러한 지표를 바탕으로 대응하는 전체적인 과정이라고 설명했다. 이어서 그는 “이전이었다면 대응이 필요하다고 판단하였을 때가 이미 운영 및 작동 중단이 발생한 이후일 것이다. 기업이 알아차리기 전에 그러한 사건·사고는 고객 경험을 악화시켰을 가능성이 크다”라고 덧붙였다. 

AI옵스 사용 사례
AI옵스가 이미 기업 IT 인프라에서 작동하고 있을 수 있다. 최근 CRM 또는 ERP 시스템에 지능형 관리 기능이 탑재된 경우가 종종 있기 때문이다. 대부분의 주요 클라우드 플랫폼도 머신러닝 기반의 모니터링 및 관리 툴을 활용한다. 

하지만 전문 솔루션에 내장된 기능에만 의존하는 것은 바람직하지 않다. 관련 비영리 단체 AI옵스 익스체인지(AIOps Exchange)의 설문조사에 따르면, 65%의 IT 조직이 지능형이든 아니든 여전히 모니터링 방식에 의존하고 있다. 이러한 접근 방식은 사일로식이거나, 규칙 기반이거나, 전체 IT 환경의 니즈를 충족하지 못했다. 

게다가 IT 관리 업체 빅판다(BigPanda)는 최근 보고서에서 IT 조직의 42%가 10개 이상의 서로 다른 IT 환경 모니터링 툴을 사용하고 있다고 밝혔다. 이것은 칼하트가 AI옵스를 도입하기로 한 계기 중 하나이기도 했다. 

힐은 "기존에는 다양한 환경을 각각 모니터링해야 했다"라면서, 2개의 플랫폼으로 모니터링을 통합해 이러한 복잡성을 해소하기로 했다고 설명했다. 그에 따르면 애플리케이션 성능 관리를 위해 앱다이내믹스(AppDynamics)의 솔루션을 도입하고, 그다음 터보노믹(Turbonomic)의 툴을 사용해 칼하트의 인프라를 관리하기로 결정됐다. 

또한 미국 최대 쇼핑 행사인 블랙 프라이데이와 사이버 먼데이 동안 불거졌던 칼하트 웹사이트의 성능 문제도 AI옵스의 필요성을 강하게 제기했다고 힐은 언급했다. 그는 홈페이지 장애가 발견됐을 때 이미 고객들은 큰 서비스 불편을 겪은 이후였다고 말했다. 

2017년 칼하트가 앱다이내믹스 솔루션을 도입한 이후, 블랙 프라이데이와 사이버 먼데이 기간의 사용량 급증에도 다운타임이 제로였다. 힐은 “그해에 기록적인 매출을 올렸다. 어떤 가동 중단이나 성능 저하도 없었으며, 매출이 평균 2배 이상 급증했다”라고 전했다.

이후 2019년 칼하트는 온프레미스와 클라우드 환경의 리소스 관리를 위해 터보노믹을 도입했다. 힐은 해당 툴로 인해 리소스 활용률이 70%에서 92%로 증가했다면서, “그 덕분에 인프라 비용의 25%를 절감한 것으로 분석된다”라고 밝혔다. 

한편 리소스 활용 증가는 사람의 개입 없이 자동 처리되는 반면, 용량 감소는 여전히 사람의 승인이 필요하다. 힐은 “시스템이 용량 문제가 있다고 파악하면, 서비스나우에 추가 자원을 요청한다. 용량을 감소시켜야 할 때는 서비스나우 헬프데스크에 티켓을 생성한다. 클릭 한 번이면 되는 간단한 프로세스다. 당장은 자동화시킬 필요가 없다”라고 설명했다.

힐에 따르면 칼하트가 생각하는 다음 단계는 비즈니스 업무 자동화다. 이를테면 텍스트 인식 및 자연어 처리를 이용해 고객 주문을 처리하는 것이다.  

AI옵스 도입률
가트너는 2023년까지 기업의 40%가 AI옵스를 애플리케이션 및 인프라 모니터링에 사용하리라 전망했다. 그러나 누가 봐도 AI옵스 도입은 아직 초기 단계에 불과하다. AI옵스 업체 룸시스템(Loom Systems)의 2019년 조사에 따르면, 지금까지 AI옵스를 적용한 기업은 5%에 불과했다. 

보스턴 컨설팅 그룹의 전무 아카시 바티아는 AI옵스 도입을 저해하는 한 가지 이유로 ‘시장에 공급업체가 많아도 너무 많다’는 점을 꼽았다. 

룸시스템은 보고서를 통해 59%의 기업이 AI옵스를 검토하는 단계에 있지만, 이 솔루션이 정확히 무엇을 제공하는지 고객들이 파악하기가 여전히 어렵다고 진단했다. 

바티아는 많은 공급업체가 애플리케이션 성능 모니터링, 인프라 관리 또는 네트워크 성능 모니터링 및 진단과 같은 AI옵스의 한 부분에서만 영업을 하고 있다고 지적했다. 그러나 기술이 성숙해지면서 시장이 통합될 조짐을 보인다고 그는 덧붙였다. 

IDC는 AI옵스 시장이 2018년 29억 달러에서 2023년 45억 달러로 성장할 것으로 관측했다. 또한 서비스형 AI옵스가 시장 성장의 주된 요인일 것으로 내다봤다. IDC의 AI옵스 애널리스트 겸 프로그램 부사장인 스티븐 엘리엇은 AI옵스가 종종 엔터프라이즈 소프트웨어 플랫폼이나 클라우드 서비스와 함께 제공되지만, 대기업들이 AI옵스에 독립적으로 투자하기 시작했다고 언급했다.

엘리엇은 “기업들이 멀티클라우드 시대에 있다는 것을 깨닫고 있다. 동시에 복잡성이 증가하고 있기 때문에 더 빠르고 민첩하게 움직여야 하는 것도 깨닫고 있다”라고 말했다.

AI옵스의 가치 제안
기업들은 기존의 분석 및 예측 시스템에서 스스로 결정을 내릴 수 있는 자동화 시스템으로의 전환이 중요하다는 것을 인식하기 시작했다. 엘리엇은 "방대한 데이터를 수집하고, 분석하며, 문제 파악과 해결을 더 빠르게 수행할 수 있는 툴이 필요하다"라고 전했다. 

자동화에는 AI옵스 통합이 필요하다. 애플리케이션 성능 문제는 소프트웨어 때문이거나 네트워크 혹은 하드웨어 때문일 수도 있다. 멀티 클라우드 환경에서도 마찬가지다. 원인은 한 클라우드에 있을 수 있고, 다른 클라우드에 있을 수도 있다. 복합적인 결과일 수도 있다. AI옵스 인프라가 나뉘어진 경우 문제의 근본적인 원인을 찾아 해결하는 것이 까다로울 수 있다. 

AI옵스 업체 사이언스로직(ScienceLogic)의 CEO 데이비드 링크는 "모든 부서가 각자의 툴을 가지는 '육탄전'이 될 수 있다. 모든 애플리케이션 이니셔티브를 위한 독자적인 툴이 있다면, 그러한 방식으로 기업을 확장해선 안 된다"라고 지적했다. 

한편 AI옵스를 적용한 기업들이 성과를 거두고 있는 것으로 드러났다. 시장조사기관 EMA(Enterprise Management Associates)는 AI옵스를 도입한 기업의 81%가 긍정적인 결과를 얻었다는 내용의 조사 결과를 발표했다. 여기서 무려 42%는 AI옵스의 가치가 투자 비용을 '극적으로' 상회한다고 응답했다. 

EMA에 따르면 AI옵스의 일반적인 사용 사례 6가지는 도메인 간 애플리케이션 인프라, 성능 및 용량 관리/인프라 최적화/데브옵스 및 애자일/고객 및 엔드 유저 경험 관리/비즈니스 정렬/비용 및 변화 관리이다. 

수익 창출 도구가 되는 AI옵스 
신시내티 벨(Cincinatti Bell)의 자회사 CBTS는 기업 고객을 대상으로 기술 컨설팅서비스를 제공한다. CBTS의 최고 혁신 책임자 조 퍼트닉은 AI 도입이 대응 시간을 개선하는 데 중요한 역할을 했지만, 이제는 새로운 비즈니스 기회의 원천이 되었다고 말했다. 

그는 CBTS가 AI옵스를 도입하기 전에는 고객 장비를 CBTS 모니터링, 관리 및 청구 시스템에 가져오는 데 몇 시간이나 며칠이 걸리거나 또는 아예 가지고 오지 못했다며, 이제는 프로비저닝 시간이 5시간에서 2분으로 단축됐다고 설명했다. 

또한 CBTS는 사용 패턴 분석과 대응 자동화에도 AI옵스를 활용하고 있다. 그는 “최대 가동 시간과 최대 고객 만족도를 유지할 수 있도록 용량이 필요한 곳을 예측하기 위해 AI옵스를 적용하고 있다”라고 전했다.

퍼트닉은 "CBTS가 월 40개 미만의 지역에서 월평균 500개 이상의 설치가 가능하도록 성장할 수 있게끔 AI옵스가 도왔다"라고 말했다. CBTS는 AWS에 내장된 툴, 자체 맞춤형으로 코딩된 서비스나우 내부 앱, 맞춤형 머신러닝 및 적응형 알고리즘, 사이언스로직의 AI옵스 툴을 조합하여 사용한다. 고객 서비스에도 AI옵스를 활용한다. 예를 들어 CBTS의 챗봇은 AI옵스 시스템에서 나오는 데이터, 분석 및 예측을 사용해 더욱 지능적이고 향상된 대응력을 갖출 수 있다. 

AI옵스와 매니지드 서비스 공급업체(MSP)
AI옵스의 잠재력을 충분히 이해하려면, MSP(Managed Service Provider)에 주목해야 한다. 디지털 서비스 컨설팅 업체인 너더리(Nerdery)의 데이터 과학 부문 이사 저스틴 리치는 “AI옵스가 아마 현재 MSP 시장에서 가장 큰 비중을 차지하고 있을 것이다. MSP는 분명히 AI에 투자하려고 하고 있다. 하드웨어를 제외하면 인적 자본이 가장 큰 비용이라는 것을 MSP는 알고 있다”라고 말했다.

AIO옵스는 MSP에게 효율성 향상, 비용 절감 및 해결 시간 단축을 의미한다. 이는 MSP 시장에서 중요한 경쟁 차별화 요소들이다. MSP 넷인리치(NetEnrich)의 전략 및 운영 부문 부사장 라구 카마쓰는 “해당 요소들은 AI옵스에 대한 자사의 가치 제안 중 절반을 차지한다”라고 밝혔다. 

그에 따르면 넷인리치는 1,000개 이상의 기업 고객들에게 AI옵스를 선보였다. “몇 명의 고객들에게 AI옵스를 구현하는 것부터 시작했으며, 지난 12개월 동안 점차 고객 기반을 확장했다. 현재 고객 50% 이상이 AI옵스 플랫폼을 사용하고 있다”라고 그는 설명했다. 

넷인리치가 제공하는 가장 확실하고 즉각적인 이점 중 하나는 노이즈 감소였다. 잘못된 경보는 직원에게 불필요한 업무를 발생시키고, 고객 대응 시간을 늦춘다.

카마쓰는 “AI옵스를 도입한 이후 장애를 감지하고 조치를 취하기 위한 대응 시간이 개선되고, 이를 해결하는 시간은 최소 30% 더 빨라졌다. AI옵스가 더 성숙해지고 더 많은 추론 모델을 도입함에 따라 대응 시간 역시 계속 개선될 것이다”라고 말했다.

한편 카마쓰는 환경이 동질적일수록 AI옵스를 배치하기가 더 쉽다는 것을 발견했다. 그는 “하지만 다양한 환경을 통합하기 시작하면 훨씬 더 복잡해진다”라고 덧붙였다. 퍼블릭 클라우드 인프라를 사용하는 고객들은 일관적인 환경을 갖추고 있기 때문에 유리하다. 단, 시스템을 개방하는 데 있어 클라우드 공급업체가 때때로 걸림돌이 될 수 있다고 그는 설명했다. 그는 “하지만 이제 퍼블릭 클라우드 공급업체들이 입장을 바꾸고 있다. 2년 전과 현재 액세스하는 데이터의 양을 비교해보면, 훨씬 좋아졌다”라고 말했다.

기존 애플리케이션과 하드웨어에 AI옵스를 활용하는 것은 힘들다고 카마쓰는 말했다. 이어서 그는 “로그가 부족하면 어떤 것도 추론하기가 상당히 어려워진다. 그렇기 때문에 우리는 고객들이 디지털 혁신을 가속화하고 애플리케이션을 현대화하도록 권장하고 있다”라고 전했다. ciokr@idg.co.kr



2020.03.09

"3년 내 기업 40%가 활용"··· AI옵스란?

Maria Korolov | CIO
클라우드 플랫폼, 매니지드 서비스 제공업체, 디지털 트랜스포메이션을 추진하는 기업이 새로운 IT 트렌드, AI옵스(AlOps)의 이점을 누리기 시작하고 있다. 

AI옵스는 부정적 영향을 미칠 수 있는 운영 중단 등의 문제를 사전 예측해준다. 더 나아가 향상된 AI옵스는 장애를 선제적으로 파악 및 예측하는 것뿐만 아니라 자동화와 지능화를 구현해 장애에 대응할 수 있게 해준다. 

AI옵스가 무엇인가? 오늘날 기업들이 AI옵스를 어떻게 사용하고 있는가? AI옵스와 관련한 기술, 전략, 과제에 대해 자세히 살펴본다. 
 
ⓒGetty Images

AI옵스란? 
AI옵스는 IT 운영 관리에 인공지능을 적용한 것이다. 인프라, 네트워크, 애플리케이션을 지능적으로 관리할 수 있다. AI옵스는 문제 발생 시 실행되는 경보 시스템과 수동으로 처리하는 기존 방식을 AI와 ML 시스템으로 전환한다. 이를 통해 IT 운영 관리를 좀 더 효율화하는 것은 물론 부정적인 영향을 미칠 수 있는 사건·사고를 미연에 예측할 수 있게 해준다.

미국 의류회사 칼하트의 CIO 존 힐은 AI옵스를 3가지 주요 영역, 서비스 관리/성능 관리/IT 자동화에서 활용한다고 말했다. 그는 지능적인 모니터링 덕분에 이제 장애를 사전에 발견할 수 있다고 밝혔다.

힐은 AI옵스에 대해 기업 환경을 모니터링하고 현황을 파악하며, 이러한 지표를 바탕으로 대응하는 전체적인 과정이라고 설명했다. 이어서 그는 “이전이었다면 대응이 필요하다고 판단하였을 때가 이미 운영 및 작동 중단이 발생한 이후일 것이다. 기업이 알아차리기 전에 그러한 사건·사고는 고객 경험을 악화시켰을 가능성이 크다”라고 덧붙였다. 

AI옵스 사용 사례
AI옵스가 이미 기업 IT 인프라에서 작동하고 있을 수 있다. 최근 CRM 또는 ERP 시스템에 지능형 관리 기능이 탑재된 경우가 종종 있기 때문이다. 대부분의 주요 클라우드 플랫폼도 머신러닝 기반의 모니터링 및 관리 툴을 활용한다. 

하지만 전문 솔루션에 내장된 기능에만 의존하는 것은 바람직하지 않다. 관련 비영리 단체 AI옵스 익스체인지(AIOps Exchange)의 설문조사에 따르면, 65%의 IT 조직이 지능형이든 아니든 여전히 모니터링 방식에 의존하고 있다. 이러한 접근 방식은 사일로식이거나, 규칙 기반이거나, 전체 IT 환경의 니즈를 충족하지 못했다. 

게다가 IT 관리 업체 빅판다(BigPanda)는 최근 보고서에서 IT 조직의 42%가 10개 이상의 서로 다른 IT 환경 모니터링 툴을 사용하고 있다고 밝혔다. 이것은 칼하트가 AI옵스를 도입하기로 한 계기 중 하나이기도 했다. 

힐은 "기존에는 다양한 환경을 각각 모니터링해야 했다"라면서, 2개의 플랫폼으로 모니터링을 통합해 이러한 복잡성을 해소하기로 했다고 설명했다. 그에 따르면 애플리케이션 성능 관리를 위해 앱다이내믹스(AppDynamics)의 솔루션을 도입하고, 그다음 터보노믹(Turbonomic)의 툴을 사용해 칼하트의 인프라를 관리하기로 결정됐다. 

또한 미국 최대 쇼핑 행사인 블랙 프라이데이와 사이버 먼데이 동안 불거졌던 칼하트 웹사이트의 성능 문제도 AI옵스의 필요성을 강하게 제기했다고 힐은 언급했다. 그는 홈페이지 장애가 발견됐을 때 이미 고객들은 큰 서비스 불편을 겪은 이후였다고 말했다. 

2017년 칼하트가 앱다이내믹스 솔루션을 도입한 이후, 블랙 프라이데이와 사이버 먼데이 기간의 사용량 급증에도 다운타임이 제로였다. 힐은 “그해에 기록적인 매출을 올렸다. 어떤 가동 중단이나 성능 저하도 없었으며, 매출이 평균 2배 이상 급증했다”라고 전했다.

이후 2019년 칼하트는 온프레미스와 클라우드 환경의 리소스 관리를 위해 터보노믹을 도입했다. 힐은 해당 툴로 인해 리소스 활용률이 70%에서 92%로 증가했다면서, “그 덕분에 인프라 비용의 25%를 절감한 것으로 분석된다”라고 밝혔다. 

한편 리소스 활용 증가는 사람의 개입 없이 자동 처리되는 반면, 용량 감소는 여전히 사람의 승인이 필요하다. 힐은 “시스템이 용량 문제가 있다고 파악하면, 서비스나우에 추가 자원을 요청한다. 용량을 감소시켜야 할 때는 서비스나우 헬프데스크에 티켓을 생성한다. 클릭 한 번이면 되는 간단한 프로세스다. 당장은 자동화시킬 필요가 없다”라고 설명했다.

힐에 따르면 칼하트가 생각하는 다음 단계는 비즈니스 업무 자동화다. 이를테면 텍스트 인식 및 자연어 처리를 이용해 고객 주문을 처리하는 것이다.  

AI옵스 도입률
가트너는 2023년까지 기업의 40%가 AI옵스를 애플리케이션 및 인프라 모니터링에 사용하리라 전망했다. 그러나 누가 봐도 AI옵스 도입은 아직 초기 단계에 불과하다. AI옵스 업체 룸시스템(Loom Systems)의 2019년 조사에 따르면, 지금까지 AI옵스를 적용한 기업은 5%에 불과했다. 

보스턴 컨설팅 그룹의 전무 아카시 바티아는 AI옵스 도입을 저해하는 한 가지 이유로 ‘시장에 공급업체가 많아도 너무 많다’는 점을 꼽았다. 

룸시스템은 보고서를 통해 59%의 기업이 AI옵스를 검토하는 단계에 있지만, 이 솔루션이 정확히 무엇을 제공하는지 고객들이 파악하기가 여전히 어렵다고 진단했다. 

바티아는 많은 공급업체가 애플리케이션 성능 모니터링, 인프라 관리 또는 네트워크 성능 모니터링 및 진단과 같은 AI옵스의 한 부분에서만 영업을 하고 있다고 지적했다. 그러나 기술이 성숙해지면서 시장이 통합될 조짐을 보인다고 그는 덧붙였다. 

IDC는 AI옵스 시장이 2018년 29억 달러에서 2023년 45억 달러로 성장할 것으로 관측했다. 또한 서비스형 AI옵스가 시장 성장의 주된 요인일 것으로 내다봤다. IDC의 AI옵스 애널리스트 겸 프로그램 부사장인 스티븐 엘리엇은 AI옵스가 종종 엔터프라이즈 소프트웨어 플랫폼이나 클라우드 서비스와 함께 제공되지만, 대기업들이 AI옵스에 독립적으로 투자하기 시작했다고 언급했다.

엘리엇은 “기업들이 멀티클라우드 시대에 있다는 것을 깨닫고 있다. 동시에 복잡성이 증가하고 있기 때문에 더 빠르고 민첩하게 움직여야 하는 것도 깨닫고 있다”라고 말했다.

AI옵스의 가치 제안
기업들은 기존의 분석 및 예측 시스템에서 스스로 결정을 내릴 수 있는 자동화 시스템으로의 전환이 중요하다는 것을 인식하기 시작했다. 엘리엇은 "방대한 데이터를 수집하고, 분석하며, 문제 파악과 해결을 더 빠르게 수행할 수 있는 툴이 필요하다"라고 전했다. 

자동화에는 AI옵스 통합이 필요하다. 애플리케이션 성능 문제는 소프트웨어 때문이거나 네트워크 혹은 하드웨어 때문일 수도 있다. 멀티 클라우드 환경에서도 마찬가지다. 원인은 한 클라우드에 있을 수 있고, 다른 클라우드에 있을 수도 있다. 복합적인 결과일 수도 있다. AI옵스 인프라가 나뉘어진 경우 문제의 근본적인 원인을 찾아 해결하는 것이 까다로울 수 있다. 

AI옵스 업체 사이언스로직(ScienceLogic)의 CEO 데이비드 링크는 "모든 부서가 각자의 툴을 가지는 '육탄전'이 될 수 있다. 모든 애플리케이션 이니셔티브를 위한 독자적인 툴이 있다면, 그러한 방식으로 기업을 확장해선 안 된다"라고 지적했다. 

한편 AI옵스를 적용한 기업들이 성과를 거두고 있는 것으로 드러났다. 시장조사기관 EMA(Enterprise Management Associates)는 AI옵스를 도입한 기업의 81%가 긍정적인 결과를 얻었다는 내용의 조사 결과를 발표했다. 여기서 무려 42%는 AI옵스의 가치가 투자 비용을 '극적으로' 상회한다고 응답했다. 

EMA에 따르면 AI옵스의 일반적인 사용 사례 6가지는 도메인 간 애플리케이션 인프라, 성능 및 용량 관리/인프라 최적화/데브옵스 및 애자일/고객 및 엔드 유저 경험 관리/비즈니스 정렬/비용 및 변화 관리이다. 

수익 창출 도구가 되는 AI옵스 
신시내티 벨(Cincinatti Bell)의 자회사 CBTS는 기업 고객을 대상으로 기술 컨설팅서비스를 제공한다. CBTS의 최고 혁신 책임자 조 퍼트닉은 AI 도입이 대응 시간을 개선하는 데 중요한 역할을 했지만, 이제는 새로운 비즈니스 기회의 원천이 되었다고 말했다. 

그는 CBTS가 AI옵스를 도입하기 전에는 고객 장비를 CBTS 모니터링, 관리 및 청구 시스템에 가져오는 데 몇 시간이나 며칠이 걸리거나 또는 아예 가지고 오지 못했다며, 이제는 프로비저닝 시간이 5시간에서 2분으로 단축됐다고 설명했다. 

또한 CBTS는 사용 패턴 분석과 대응 자동화에도 AI옵스를 활용하고 있다. 그는 “최대 가동 시간과 최대 고객 만족도를 유지할 수 있도록 용량이 필요한 곳을 예측하기 위해 AI옵스를 적용하고 있다”라고 전했다.

퍼트닉은 "CBTS가 월 40개 미만의 지역에서 월평균 500개 이상의 설치가 가능하도록 성장할 수 있게끔 AI옵스가 도왔다"라고 말했다. CBTS는 AWS에 내장된 툴, 자체 맞춤형으로 코딩된 서비스나우 내부 앱, 맞춤형 머신러닝 및 적응형 알고리즘, 사이언스로직의 AI옵스 툴을 조합하여 사용한다. 고객 서비스에도 AI옵스를 활용한다. 예를 들어 CBTS의 챗봇은 AI옵스 시스템에서 나오는 데이터, 분석 및 예측을 사용해 더욱 지능적이고 향상된 대응력을 갖출 수 있다. 

AI옵스와 매니지드 서비스 공급업체(MSP)
AI옵스의 잠재력을 충분히 이해하려면, MSP(Managed Service Provider)에 주목해야 한다. 디지털 서비스 컨설팅 업체인 너더리(Nerdery)의 데이터 과학 부문 이사 저스틴 리치는 “AI옵스가 아마 현재 MSP 시장에서 가장 큰 비중을 차지하고 있을 것이다. MSP는 분명히 AI에 투자하려고 하고 있다. 하드웨어를 제외하면 인적 자본이 가장 큰 비용이라는 것을 MSP는 알고 있다”라고 말했다.

AIO옵스는 MSP에게 효율성 향상, 비용 절감 및 해결 시간 단축을 의미한다. 이는 MSP 시장에서 중요한 경쟁 차별화 요소들이다. MSP 넷인리치(NetEnrich)의 전략 및 운영 부문 부사장 라구 카마쓰는 “해당 요소들은 AI옵스에 대한 자사의 가치 제안 중 절반을 차지한다”라고 밝혔다. 

그에 따르면 넷인리치는 1,000개 이상의 기업 고객들에게 AI옵스를 선보였다. “몇 명의 고객들에게 AI옵스를 구현하는 것부터 시작했으며, 지난 12개월 동안 점차 고객 기반을 확장했다. 현재 고객 50% 이상이 AI옵스 플랫폼을 사용하고 있다”라고 그는 설명했다. 

넷인리치가 제공하는 가장 확실하고 즉각적인 이점 중 하나는 노이즈 감소였다. 잘못된 경보는 직원에게 불필요한 업무를 발생시키고, 고객 대응 시간을 늦춘다.

카마쓰는 “AI옵스를 도입한 이후 장애를 감지하고 조치를 취하기 위한 대응 시간이 개선되고, 이를 해결하는 시간은 최소 30% 더 빨라졌다. AI옵스가 더 성숙해지고 더 많은 추론 모델을 도입함에 따라 대응 시간 역시 계속 개선될 것이다”라고 말했다.

한편 카마쓰는 환경이 동질적일수록 AI옵스를 배치하기가 더 쉽다는 것을 발견했다. 그는 “하지만 다양한 환경을 통합하기 시작하면 훨씬 더 복잡해진다”라고 덧붙였다. 퍼블릭 클라우드 인프라를 사용하는 고객들은 일관적인 환경을 갖추고 있기 때문에 유리하다. 단, 시스템을 개방하는 데 있어 클라우드 공급업체가 때때로 걸림돌이 될 수 있다고 그는 설명했다. 그는 “하지만 이제 퍼블릭 클라우드 공급업체들이 입장을 바꾸고 있다. 2년 전과 현재 액세스하는 데이터의 양을 비교해보면, 훨씬 좋아졌다”라고 말했다.

기존 애플리케이션과 하드웨어에 AI옵스를 활용하는 것은 힘들다고 카마쓰는 말했다. 이어서 그는 “로그가 부족하면 어떤 것도 추론하기가 상당히 어려워진다. 그렇기 때문에 우리는 고객들이 디지털 혁신을 가속화하고 애플리케이션을 현대화하도록 권장하고 있다”라고 전했다. ciokr@idg.co.kr

X