AI로 본격 재편되는 GCP··· 구글 클라우드 넥스트 2024의 핵심 발표 6가지

구글 클라우드가 연례 컨퍼런스인 ‘넥스트 2024’에서 생성형 AI 관련 사례와 기술 업데이트 소식을 발표했다. 일반 소비자용 제품과 마찬가지로 기업용 제품에도 제미나이 기반 생성형 AI 기반 어시스턴트가 추가됐으며, 개발자를 위한 각종 LLM 도구도 공개됐다. 이번 행사의 주요 내용은 다음과 같다.
 

1. AI 워크로드 특화 인프라 지원
AI 워크로드는 이전의 워크로드와 다른 만큼 구글은 AI 개발을 지원하는 여러 인프라를 이번 행사에서 공개했다. 먼저 AI 워크로드를 위한 가속기 모듈인 텐서 프로세싱 유닛(Tensor Processing Unit, TPU) v5p의 최신 버전을 구글 클라우드 서비스에 공식 지원했다. GKE(Google Kubernetes Engine) 고객은 TPU v5p 파드가 포함된 쿠버네티스 노드 풀을 만들 수 있다.

또한, 구글은 엔비디아와 파트너십을 확장하며 엔비디아 H100 GPU로 구동되는 A3 메가 가상 머신(VM)을 클라우드에 제공한다. 스토리지 제품은 캐싱을 비롯해 최적화 기능이 강화됐다. 사용자는 동적 워크로드 스케줄러라는 새로운 리소스 관리 및 작업 스케줄링 서비스를 이용할 수 있다.

2. 생성형 AI로 페어 프로그래밍 강화
구글은 이번 행사에서 AI 코딩 도구인 ‘듀엣 AI 포 디벨로퍼’의 서비스명을 ‘제미나이 코드 어시스트(Gemini Code Assist)’로 변경한다고 발표했다. 최신 LLM인 제미나이에 맞춰 새롭게 브랜딩을 하는 것이다.

제미나이 코드 어시스트는 새 이름에 걸맞게 ‘제미나이 1.5 프로 모델’를 활용하며 AI 기반 코드 완성, 코드 생성 및 채팅 서비스 기능을 제공한다. 구글 클라우드 콘솔에서 작동하며 비주얼 스튜디오 코드, 젯브레인 등 인기 있는 코드 편집기와 통합되는 동시에 온프레미스, 깃허브, 깃랩, 비트버킷 등 외부 저장소를 활용해 코드를 작성한다.

개발자는 앞으로 제미나이 코드 어시스트에서 ▲전체 코드베이스 이해 ▲맞춤 코드 생성 ▲파트너사 도구 통합 등을 이용할 수 있다. 참고로 파트너사에는 데이터독, 데이터스택스, 엘라스틱, 하시코프, 네오4J, 파인콘, 레디스, 싱글스토어, 싱크, 스택 오버플로 등이 있다. 구글은 이런 파트너사 도구를 통합해 코드 생성의 효율성을 높일 수 있을 것이라고 설명했다.

3. 앱 및 클라우드 운영에 특화된 AI
클라우드 서비스 관리를 위한 AI 도구 ‘제미나이 클라우드 어시스트(Gemini Cloud Assist)’도 이번에 공개됐다. 엔지니어는 애플리케이션과 네트워크를 관리에 필요한 작업을 제미나이에게 직접 요청할 수 있다.

제미나이 클라우드 어시스트는 구글 클라우드 콘솔의 채팅 인터페이스를 통해 이용할 수 있다. 구글에 따르면, 기업은 제미나이 클라우드 어시스트를 사용하여 비용 절감, 성능 또는 고가용성 관련 작업의 우선순위를 정할 수도 있다. 제미나이 클라우드 어시스트는 사용자가 입력한 자연어 입력을 기반으로 개선이 필요한 영역을 식별하고 목표를 달성하는 방법을 제안한다. 또한 제미나이 클라우드 어시스트를 다양한 클라우드 제품 및 클라우드 워크로드에서도 이용할 수 있다.

애플리케이션 수명 주기 관리 외에도 제미나이 클라우드 어시스트는 설계, 운영, 최적화를 포함한 다양한 네트워크작업에 걸쳐 사용할 수 있다.

제미나이 기반 AI 어시스턴트는 구글 클라우드의 보안 운영 제품에도 추가되었다. 이 기능은 보안 위협을 줄이는 데 도움이 되는 IAM(ID 및 액세스 관리) 권장 사항과 기밀 컴퓨팅(confidential computing) 분석 등 다양한 인사이트를 제공할 수 있다.

4. 노코드 AI 에이젠트 빌더
마이크로소프트와 AWS와 경쟁하기 위해 구글 클라우드는 챗봇을 구축할 수 있는 새로운 생성형 AI 도구인 ‘버텍스 AI 에이전트 빌더(Vertex AI Agent Builder)’를 공개했다. 노코드 형태의 이 도구는 기존 버텍스 AI 검색 기능과 대화형 제품 기능을 활용한다. 덕분에 제미나이 LLM을 기반으로 간편하게 가상 에이전트를 구축할 수 있다.

이 솔루션의 핵심은 즉각 사용할 수 있는 RAG 시스템인 버텍스 AI 검색 기능이 있다는 점이다. 사용자는 이를 통해 기존 RAG 기술보다 빠르게 에이전트를 구축할 수 있다. 내장된 RAG API는 개발자가 입력값에 대한 검사를 신속하게 수행할 수 있도록 도와준다. 또한 개발자는 구글 검색을 활용해 모델 출력값을 분석하며, AI 응답 품질을 더욱 개선할 수 있다.

버텍스 AI 관련해서는 LLM 및 ML옵스 기능이 추가로 업데이트됐다. 먼저 100만 토큰 컨텍스트를 지원하는 제미나이 1.5 프로 모델이 퍼블릭 프리뷰 버전으로 공개됐다. 버텍스 AI의 제미나이 1.5 프로는 비디오의 음성 및 오디오를 포함한 오디오 스트림도 처리할 수 있다.

또한 구글은 ‘이미젠 2(Imagen 2)’ LLM 제품군을 업데이트하며 AI 기반 사진 편집 기능과 텍스트로 4초 분량의 동영상을 생성하는 기능을 선보였다. 구글의 경량 모델인 코드젬마(CodeGemma)도 버텍스AI에서 지원된다.

ML옵스 도구로는 ‘버텍스 AI 프롬프트 관리(Vertex AI Prompt Management)’ 기능이 업데이트됐다. 이 기능으로 프롬프트를 탐색하고, 마이그레이션하고, 매개변수와 함께 프롬프트를 추적할 수 있다. 또한 프롬프트 디자인을 반복하면서 모델 성능을 확인할 수 있는 ‘래피드 이벨류에션(Rapid Evaluation)’도 추가됐다.

5. 데이터베이스 관리자를 위한 AI
구글 클라우드는 제미나이에 기반한 기능을 데이터베이스 제품에 추가했으며, 여기에는 빅테이블, 스패너, 레디스용 메모리스토어(Memorystore), 파이어스토어, MySQL용 클라우드SQL, 포스트그레SQL용 알로이DB가 포함된다. 덕분에 AI로 SQL을 생성하거나 데이터베이스 관리 및 마이그레이션을 할 수 있다.

구글은 또한 데이터베이스를 더 잘 관리할 수 있는 ‘데이터베이스 센터(Database Center)’라는 새로운 기능을 추가했다. 이 기능으로 운영자는 단일 창에서 전체 데이터베이스를 관리할 수 있다.

또한 구글은 이전에 듀엣 AI를 지원하던 데이터베이스 마이그레이션 서비스에 제미나이를 지원했다. 구글은 “제미나이는 스토어드 프로시저, 함수 등 데이터베이스 레지전트 코드를 포스트그레SQL 언어로 변환하는 데 도움을 준다”라고 설명했다. 제미나이 기반 데이터베이스 마이그레이션은 코드에 대한 자세한 설명과 권장 사항, 언어별 문법을 비교하여 코드를 분석해 준다.

구글의 관리형DB 서비스 알로이DB에도 생성형 AI 기능이 추가됐다. 해당 기능으로 자연어로 데이터를 쿼리할 수 있으며, 새로운 유형의 데이터베이스를 볼 수 있다.

6. 생성형 AI를 위한 오픈소스 발표
구글은 구글 클라우드 넥스트 2024에서 생성형 AI 모델 구축 및 실행을 위한 오픈소스 프로젝트 3개를 공개했다. 맥스디퓨전(MaxDiffusion), 젯스트림(JetStream), 옵티멈(Optimum)-TPU이다.

구글은 JAX로 구축된 LLM의 맥스텍스트(MaxText) 프로젝트에 새로운 LLM을 도입했다. 맥스텍스트의 새로운 LLM 모델에는 구글 클라우드 TPU와 엔비디아 GPU 모두에서 지원되는 젬마, GPT-3, 라마 2, 미스트랄이 포함됐다.
ciokr@idg.co.kr