Offcanvas

AI / CIO / 데이터센터 / 클라우드

AI 비용 · 보안 해법으로 부상 · · · ‘프라이빗 클라우드’가 돌아온다

2024.05.16 Paula Rooney   |  CIO
비용 문제 및 데이터 유출에 대한 우려로 인해 CIO들은 다가오는 AI 시대에 맞춰 클라우드 전략을 재고하고 있다. 실험, 비용 관리, 데이터 보안의 균형을 맞출 수 있는 장기적인 해결책으로 하이브리드 클라우드 구조가 유력한 대안으로 부상하고 있다.

즉 한때 퍼블릭 클라우드를 선호했던 CIO들이 부분적으로나마 프라이빗 클라우드를 고려하고 있다. 그리고 이로 인해 프라이빗 클라우드 벤더가 AI 골드러시의 주요 수혜자 중 하나로 지목되는 분위기다. 

이러한 변화의 중심에는 AI 워크로드를 지원하고 비용을 절감하기 위해 장기적으로 퍼블릭과 프라이빗 클라우드를 혼합한 하이브리드 클라우드가 필요하다는 인식이 자리하고 있다. 선 컨트리 에어라인의 수석 부사장 겸 CIO 짐 스타토풀로스는 "데이터와 클라우드 분야의 빠른 변화로 인해 우리는 클라우드와 데이터센터 전략 측면에서 하이브리드 모델에 방점을 두고 있다"라고 말했다. 

그는 2023년 초 유나이티드 에어라인으로부터 옮겨온 인물이다. 종전의 애저 클라우드 인프라와 데이터브릭스 AI 플랫폼을 유지하고 있지만, 향후 IT 인프라에 대해 열린 자세를 가지고 있다고 그는 말했다. 

기업들이 AI 솔루션을 위해 하이브리드 인프라에 주목하는 데에는 이유가 있다. 증가하는 클라우드 및 AI 비용을 제어하고 데이터 유출을 방지해야 하기 때문이다. 전문가들은 다수는 비용 관리와 데이터 보안을 확보하기 위해 온프레미스 또는 공동 배치된 프라이빗 클라우드를 포함하는 하이브리드 접근 방식을 필요로 한다는데 동의한다.

IDC의 최고 클라우드 애널리스트인 데이브 맥카시는 생성형 AI 지원 기능을 갖춘 델 APEX 및 HPE 그린레이크와 같은 프라이빗 클라우드 플랫폼이 기업 고객에게 해답을 제공할 수 있다며, 에퀴닉스와 같은 파트너와 코로케이션하여 프라이빗 클라우드에서 워크로드를 호스팅하는 것도 해답 중 하나라고 말했다.

맥카시는 "AI를 둘러싼 흥분과 관련 두려움이 프라이빗 클라우드에 대한 필요성을 더욱 높이고 있다. 기업으로서는 기업 고유의 데이터가 퍼블릭 AI 모델 내부에 들어가지 않도록 해야 한다"라며, "CIO들은 퍼블릭 클라우드에서 LLM이 제공할 수 있는 기능을 최대한 활용하면서 민감한 데이터는 자신이 제어하는 프라이빗 클라우드에 보관하는 방법을 모색하고 있다"라고 전했다.
 
Image Credit : Getty Images Bank

클라우드 방정식을 바꾸는 생성형 AI
서머셋 캐피털 그룹은 ERP 애플리케이션을 실행하고 생성형 AI를 위한 기반을 마련하기 위해 프라이빗으로 전환한 조직 중 하나다. 코네티컷 주 밀포드에 본사를 둔 이 금융 서비스 회사는 10년 전에 데이터를 퍼블릭 클라우드로 마이그레이션했다. 또 고객 중심 애플리케이션에 대해서는 퍼블릭 클라우드 활용을 더욱 늘릴 예정이다. 하지만 회사의 중요한 데이터와 향후 생성되는 모든 AI 데이터는 새로운 호스팅 프라이빗 클라우드에서 실행될 가능성이 높다고 서머셋의 EVP 겸 CIO인 앤드류 코터는 전했다. 

그는 퍼블릭 클라우드가 오늘날의 LLM에 필요한 성능을 갖추고 있지만, 이제 서머셋은 델 장비를 통해 GPU를 직접 추가할 수 있다고 언급하면서 "AI를 테스트하고 실행함에 있어 가능한 한 ‘프라이빗’을 유지하기로 결정했다. 엄격간 통제를 위해 프라이빗 클라우드에 보관하고 있다"라고 말했다.

킨드릴 US의 수석 부사장인 토드 스콧은 AI 비용 이슈 또한 프라이빗 클라우드에 대한 관심을 요인 중 하나라고 평가했다. 그는 "현재 대부분의 기업이 퍼블릭 클라우드에서 AI를 탐색하고 있지만 궁극적으로는 고객 기업들이 프라이빗 환경과 엣지에서 AI를 실행하게 될 것으로 예상한다"라고 말했다.

그는 이어 "프라이빗 클라우드로의 전환을 촉진하는 또 다른 요인은 비용에 대한 예측 가능성이다. 애자일 기업은 정의상 애플리케이션을 자주 변경하기 때문에 퍼블릭 클라우드에 데이터를 보관하는 데 드는 비용의 변동이 큰 경우가 있다. 프라이빗 클라우드는 인프라가 전용으로 제공되므로 예측 가능성이 더 높다"라고 덧붙였다.

프라이빗 클라우드 지출
실제로 프라이빗 클라우드 지출은 증가하고 있다. 2023년 포레스터의 인프라 클라우드 설문조사에 따르면, 설문에 참여한 약 1,300명의 기업 클라우드 의사 결정권자 중 79%가 가상화 및 프라이빗 클라우드 관리를 사용하는 내부 프라이빗 클라우드를 구현하고 있다고 답했다. 응답자의 약 1/3(31%)은 프라이빗 클라우드를 퍼블릭 클라우드처럼 만들기 위해 소프트웨어 정의 스토리지 및 API 일관 하드웨어와 같은 하이브리드 클라우드 관리 솔루션을 사용하여 내부 프라이빗 클라우드를 구축하고 있다고 답했다.

IDC의 분석도 궤를 같이 한다. 이 시장조사기관은 호스팅 프라이빗 클라우드와 서비스형 전용 클라우드 인프라를 포함한 프라이빗 전용 클라우드 서비스에 대한 전 세계 지출이 2024년에 204억 달러에 달하고 2027년에는 두 배 이상 증가할 것으로 전망한다. IDC에 따르면 하드웨어, 소프트웨어, 지원 서비스를 포함한 엔터프라이즈 프라이빗 클라우드 인프라 관련 전 세계 지출은 2024년에 518억 달러에 이르며, 2027년에는 664억 달러까지 증가할 전망이다.

물론 퍼블릭 클라우드와 비교하면 미미한 수치다. 퍼블릭 클라우드의 2024년 매출은 8,157억 달러에 달할 전망이다. 그러나 IDC의 맥카시는 대부분의 기업이 하이브리드 클라우드 인프라를 미래로 보고 있다고 전했다. 특히 HPE와 델 등이 내놓은 턴키 프라이빗 클라우드 오퍼링으로 인해 고객은 온프레미스 또는 관리형 서비스를 제공하는 코로케이션 시설에서 실행할 수 있는 프라이빗 클라우드를 이용할 수 있게 되었다고 맥카시는 말했다.

한편 그는 프라이빗 클라우드가 전체 클라우드 비용을 더 잘 통제하는 데 도움이 될 수 있지만, 각각의 장단점을 확인해야 한다고 지적했다.

맥카시는 "기업들이 이 문제에 대해 약간 곤란한 상황에 처해 있다. 보안 문제 때문에 프라이빗 클라우드로 이동하고 있지만, 대규모 AI를 수행하는 데 필요한 특수 하드웨어는 고가이고 전력과 냉각 문제를 가진다”라고 말했다.

그는 이어 “에퀴닉스 같은 기업이 이러한 문제에 해법을 제시하고 있다. 이러한 유형의 인프라를 처리할 수 있는 장비를 이미 갖춘 에퀴닉스 데이터센터에 기업이 프라이빗 클라우드를 구축할 수 있도록 지원한다”라고 말했다.

스타트업 자문 회사인 클라우드벤치의 설립자이자 마이크로소프트, 딜로이트, IBM 임원 출신인 톰 리처는 프라이빗 클라우드 제공업체와 코로케이션 파트너가 AI의 혜택을 누릴 것이라는 데 동의했다.

그는 "프라이빗 클라우드 업계로서는 생성형 AI의 혜택을 직접적으로 볼 수도 있다. 생성형 AI 모델이 정상적인 데이터 분포에서 패턴을 학습하도록 한 후 실시간 데이터 스트림에서 이상 징후나 이상값을 감지하도록 수 있다. 즉 프라이빗 클라우드 플랫폼은 사이버 보안, 사기 탐지, 예측 유지보수 등 다양한 영역에서 이상 징후 탐지를 위해 생성형 AI를 활용할 수 있다”라고 말했다.

그는 이어 "프라이빗 클라우드 제공업체들은 향후 기업이 온프레미스에서 대규모 데이터 세트나 광범위한 컴퓨팅 리소스 없이도 예측 모델을 개발하고, 시뮬레이션을 수행하거나, '가정' 분석을 수행할 수 있도록 지원하는 생성형 AI 서비스를 제공할 수 있을 것”이라고 말했다.

그러나 데이터 프라이버시 우려에도 불구하고 퍼블릭 클라우드에서 모든 생성형 AI 워크로드를 실행하는 데 익숙한 IT 리더들도 어느덧 많아졌다. 미국 증권거래위원회를 지원하는 IT 서비스 기관인 금융산업규제청(FINRA)의 CIO인 스티브 랜디치는 AI의 발전으로 프라이빗 클라우드의 문이 열릴 수 있다고 동의하면서도 그는 AWS 퍼블릭 클라우드의 보안은 매우 견고하다고 평가했다.

랜디치는 "퍼블릭 클라우드에 대한 우려는 타당하지만, 클라우드 벤더마다 다를 수 있다. FINRA는 현재 AWS에서 가장 큰 데이터 세트 중 하나를 보유하고 있다. 우리는 AWS 퍼블릭 클라우드 서비스를 계속 사용한다는 입장이며, 프라이빗이나 하이브리드는 고려하지 않고 있다”라고 말했다.

변화하는 클라우드 전략
프라이빗 클라우드 벤더들은 자사의 솔루션이 AI 시대에 대비할 준비가 되어 있다고 주장하곤 한다. 예를 들어, HPE 그린레이크는 데이터센터 및 기타 위치에 클라우드와 같은 유연성과 높은 수준의 데이터 보안을 제공하는 서비스형 제품이라고 회사 측은 강조하고 있다. 

실제로 이러한 프라이빗 클라우드 솔루션은 AI와 관련한 CIO의 주요 관심사인 멀티테넌시 데이터 유출 위험성을 해소한다. 비용도 크게 줄어들 수 있다. 실제로 홈 디포 및 R&D 연구소 오피노는 HPE 코로케이션 파트너인 사이러스원과 과 파트너십을 맺고 프라이빗 클라우드를 구축했으며, 결과적으로 클라우드 비용을 90%까지 줄였다고 보고한다.

HPE의 하이브리드 클라우드 COO인 황탄은 "AI야말로 하이브리드 워크로드라고 할 수 있다. 매우 폭증하는 작업도 있겠지만, 대규모 모델 학습과 추론의 경우에도 기본 부하가 있다. [해당 부하를] 확실하게 예측할 수 있다면 모두 프라이빗 클라우드에 배치할 만하다"라고 말했다.

2018년 디지털 트랜스포메이션을 시작할 때 퍼블릭과 프라이빗 혼합 구성을 선택한 보야 파이낸셜은 워크로드 배치에 대해 신중한 접근 방식을 취하는 조직 중 하나다. 산토시 케샤반 EVP 겸 CIO는 프라이빗 클라우드 공간을 유지하기로 한 회사의 결정 종합적으로 볼 때 최선의 선택이었다고 전했다.

그는 "모든 애플리케이션이 클라우드에서 실행될 준비가 되어 있는 것은 아니다. 마이크로소프트 애저, AWS 또는 그 어떤 클라우드에서도 실행할 필요가 없는 애플리케이션의 경우 프라이빗 클라우드에 보관하는 것이 나을 수 있다”라고 말했다.

모든 조직이 퍼블릭 클라우드에 적합한 것은 아니다.  현재 건설 중인 삼성의 주요 반도체 시설 인근에 위치한 텍사스주 윌리엄슨 시는 디지털 증거에 대한 법적 책임과 빠르게 성장하는 지역의 정부 기관의 요구로 인해 2017년부터 프라이빗 클라우드를 향한 경로를 밟아왔다고 리처드 셈플 CEIO는 전했다.

셈플은 "선택의 여지가 없었다. 결국 모든 것을 완벽하게 수행했더라도 데이터의 보안과 무결성에 대한 책임은 여전히 우리에게 있다. 그 위험을 다른 사람에게 맡길 수 있겠는가?"라고 말했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.