Offcanvas

AI / 머신러닝|딥러닝 / 오픈소스

VM웨어 “한국 기업 AI 준비도 높은 편··· ‘프라이빗AI’로 기업에 필요한 개발 및 보안 인프라 지원”

2023.10.18 이지현  |  CIO KR
VM웨어가 18일 고객사 및 파트너를 위한 행사를 한국에서 개최하고 프라이빗 AI 및 빅데이터 기술의 방향성을 전하는 시간을 가졌다. 200명이 넘는 인원이 참석한 이번 행사에서 VM웨어는 ‘프라이빗AI(Private AI)’를 강조하는 데 집중했다. 
 
킵 콜 VM웨어 탄주 아태지역 총괄 부사장(왼쪽)과 이반 노빅 VM웨어 그린플럼 제품 관리 부문 총괄(오른쪽) ⓒ 킵 콜

VM웨어는 지난 8월 자체 연례 컨퍼런스 이후 ‘프라이빗AI’라는 가치를 중심으로 포트폴리오를 재편하고 있다. VM웨어가 말하는 프라이빗AI란 AI를 통한 비즈니스 혜택과 조직의 개인정보 보호 및 컨플라이언스 요구 사항의 균형을 맞추는 아키텍처적 접근 방식이다. 궁극적으로 VM웨어는 데이터, 클라우드 기술 위에 AI 개발에 필요한 하드웨어 및 소프트웨어 그리고 각종 데이터 보호 제어 기능을 제공하며, 고객이 실질적인 AI 애플리케이션 개발에 집중할 수 있도록 도울 예정이다.

기술적으로 살펴보면 VM웨어는 자사의 프라이빗 클라우드 기술에 딥러닝 VM, 벡터 데이터베이스,  GPU 스케일링 등 AI 특화 기능을 추가했다. 여기에 오픈소스 LLM을 통합 및 선택할 수 있게 열어두고, 고객이 자사의 데이터를 활용해 AI 애플리케이션을 만들 수 있게 지원하고 있다. VM웨어는 프라이빗 클라우드 및 소프트웨어 정의 데이터 센터 기술을 오랫동안 제공하며 쌓은 전문성으로 AI 개발 뒷단에 필요한 인프라를 최적화해서 제공할 수 있다는 자신감을 보였다. 

또한 VM웨어는 AI 시대에서 온프렘(on-prem, 혹은 On-premises라고도 부름) 환경의 인프라가 AI 애플리케이션 결과물의 신뢰성과 민감 및 기밀 데이터 보호 수준을 높일 것이라고 기대했다. 외부 데이터가 아닌 기업 자사 데이터를 안전하게 학습한 만큼 환각 현상도 줄일 수 있다고 보았다. 퍼블릭 클라우드 시장이 더욱 성장하고 있는 지금의 시대에서 온프렘 환경의 중요성을 강조한 셈이다.

킵 콜 VM웨어 탄주 아태지역 총괄 부사장은 “AI 개발을 온프렘에서만 할 수 있는 것은 물론 아니다. 하지만 현재 기업에서 고려하면 좋은 접근법은 맞다”라고 표현하며 이런 주장의 근거로 2가지를 들었다. 

먼저 많은 기업이 AI 개발 과정에서 자사의 핵심 데이터를 퍼블릭 클라우드에 올리는 것을 이미 걱정하고 있다. 이런 부분은 단순히 컴플라이언스나 법률적 강제성 때문이 아니라 리스크 관리 및 전략 측면에서 데이터를 외부로 공유하는 것을 주저하기도 한다.

두 번째는 데이터 그래비티(gravity)다. 데이터 그래비티란 데이터를 한곳에서 다른 곳으로 이동하기 위해 드는 시간 및 금전적 비용을 총칭한다. AI를 활용하고 성과까지 나오려면 개발과 배포로 이어지는 ‘주기’를 빠르게 만들고 반복이 과정이 필요한데, 외부 공간에서 데이터를 오가는 과정에서 개발 속도가 더뎌질 수 있다는 것이 콜 부사장의 설명이다.

킵 콜은 “AI 애플리케이션 규모를 늘릴 때 온프렘 환경은 관리 비용을 절감시킬 수 있다. 온프렘 인프라는 이미 투자된 것을 기반으로 진행하기 때문에 예측 가능하기 때문이다”라며 “물론 퍼블릭 클라우드는 유연성이라는 혜택이 있다. 하지만 모든 경우에 다 들어맞는 것은 아니다”라고 덧붙였다. 

이반 노빅 VM웨어 그린플럼 제품 관리 부문 총괄은 “온프렘이란 가치를 이제 보다 넓게 봐야 할 것 같다”라며 “온프렘 기반 인프라의 장점이 단순히 물리적 위치 즉, 우리 회사가 관리하는 건물 안에 있어서 좋은 것이 아니다. 그 안에 있는 데이터, 모델, 이를 관리하는 인력에 대한 소유권을 해당 기업에 가져다주는 것이다. 다시말해 기업에게 내부 자산에 대한 완전한 관리 권한을 주는 부분이 큰 장점으로 작용할 수 있다”라고 설명했다.  
 
VM웨어 프라이빗AI 기술 구조 ⓒ VM웨어

VM웨어는 프라이빗 AI 서비스를 개발하기 위해 엔비디아와 협업해 기술을 만들고 있다. 오픈소스 기반 LLM 통합에도 적극 투자하고 있다. 기존 데이터 제품군이었던 그림플럼(Greenplum)에는 벡터 데이터베이스 같은 기능이 강화되고 있다. 백터 데이터베이스를 이용하면 AI 모델이 이해할 수 있는 데이터로 인코딩하고 지속적인 업데이트를 할 수 있다. AI 기반 챗봇이나 검색 기술 수준을 높을 때 이런 벡터 데이터베이스가 많이 사용된다. 

콜 부사장은 “한국 시장은 벤더 종속 현상을 선호하지 않고, 엔지니어 인력이 탄탄한 만큼 인하우스 개발 역량을 키우는 것을 선호한다. 최근에는 특히 정부 및 기업 차원에서 AI를 적극 준비하는 것이 눈에 띈다”이라며 “VM웨어 기술을 이용하면, AI 애플리케이션 과정에서 LLM을 처음부터 개발할 필요 없이 기업에게 필요한 상황에 맞는 LLM을 자유롭게 선택하고 멀티클라우드, 비용, 리스크 등을 쉽게 관리할 수 있을 것”이라고 설명했다. 
jihyun_lee@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.