구글, 기업의 LLM 역량 강화 지원하는 버텍스AI 새 기능 공개

구글이 AI 및 머신러닝 플랫폼 버텍스 AI(Vertex AI)의 편의성을 높이는 새 기능을 발표했다.
 

구글이 지난 29일 ‘구글 클라우드 넥스트 2023’ 컨퍼런스에서 기업이 대규모 언어 모델(LLM)을 더 편리하게 활용할 수 있도록 지원하는 버텍스 AI의 새 도구 및 기능을 공개했다.

먼저 구글은 기업이 보다 정확한 의사 결정을 위해 실시간 데이터로 LLM을 업데이트할 수 있는 ‘버텍스AI 익스텐션’ 기능을 소개했다. 버텍스AI 익스텐션은 개발자가 모델을 API에 연결해 실시간 데이터를 업데이트하는 관리형 도구 세트다.

구글은 성명을 통해 “개발자는 버텍스AI 익스텐션을 통해 사전 구축된 확장 기능을 유명 엔터프라이즈 API에 연결하거나, 구글 서비스 전반에 호환되는 스키마로 자체 익스텐션을 구축해 비공개 및 공용 API에 연결할 수 있다”라고 밝혔다. 또한 디지털 비서, 검색 엔진 및 자동화된 워크플로우를 구축하는 데도 버텍스AI 익스텐션을 사용할 수 있다고 덧붙였다. 

구글은 또한 빅쿼리(BigQuery), 알로이DB(AlloyDB) 같은 자사 클라우드 서비스와 데이터스택스(DataStax), 몽고DB(MongoDB), 레디스(Redis) 같은 파트너 데이터베이스 서비스에 대한 사전 구축된 확장 기능을 제공할 예정이다.

버텍스AI 검색, AI 대화 추가
구글은 올해 초 생성형 AI 앱 빌더의 일부로 엔터프라이즈 검색(Vertex AI Search) 기능과 AI 대화(Vertex AI Conversation) 기능을 공개한 바 있다. 이번 컨퍼런스에서 구글은 두 기능을 정식 출시한다고 밝혔다.

구글에 따르면 개발자가 생성형 AI를 바탕으로 더 ‘매력적인’ 애플리케이션을 만들 수 있도록 버텍스AI 검색 및 AI 대화에 새 기능도 추가했다.

‘버텍스AI 검색’은 기업이 기초 모델로 구동되는 애플리케이션을 통해 구글 검색과 유사한 환경을 설정할 수 있는 기능이다. 여기에 데이터 커넥터가 추가돼, 모델이 세일즈포스(Salesforce), 지라(JIRA), 컨플루언스(Confluence) 같은 타사 애플리케이션에서 읽기 전용 액세스로 데이터를 수집할 수 있도록 지원한다. 구글에 따르면 데이터 커넥터는 다른 애플리케이션의 실시간 데이터를 생성형 AI 기반 시스템, 봇 또는 애플리케이션과 연결하는 데 유용하다.

검색 및 대화의 다른 업데이트로는 멀티턴(multiturn) 검색 및 요약 기능 개선, 그라운딩 역량 강화 등이 있다. 멀티턴 검색은 기업 사용자가 새로운 대화를 시작하지 않고도 후속 질문을 할 수 있는 기능이다. 또한 사용자는 개선된 검색 요약 기능을 통해 검색 결과와 채팅 대화에 대한 요약을 더 정확하게 확인할 수 있다. 

구글은 기업이 특정 검색어에 대한 프롬프트와 응답을 자연어로 미리 프로그래밍할 수 있는 개발자용 도구를 제공하고 있다. 새 그라운딩 도구는 기업이 검색 결과에 대한 특정 인용을 허용할지 여부를 결정할 수 있도록 개발자를 지원한다.

모델 가든(Model Garden)에 새로운 기초 모델 추가
버텍스AI의 ‘모델 가든’은 구글 클라우드가 앤트로픽(Anthropic), 허깅페이스(HuggingFace) 같은 회사와 제휴해 기초 LLM을 호스팅하는 서비스다. 구글에 따르면 앞으로 모델 가든에 메타의 라마2(Llama2), TII의 팔콘(Falcon), 앤트로픽의 클로드2(Claude2)가 추가된다.

또한 구글은 모델 가든에서 이용할 수 있는 자사 모델인 팜2(PaLM2), 코디(Codey), 이매진(Imagen)의 기능도 개선하고 있다. 팜2는 38개 언어를 지원해 기업이 데이터를 기반으로 작업할 수 있도록 돕는다. 코디는 업데이트를 통해 코드 생성 품질을 25% 이상 향상했다.

구글은 “팜2의 새 버전은 긴 대화 형식의 채팅을 지원하고 연구 논문, 서적, 법률 요약서 등 대용량 문서를 요약 및 분석할 수 있다. 85페이지 분량의 문서를 프롬프트에 추가할 수 있는 32,000개의 토큰 컨텍스트 창을 지원한다”라고 밝혔다. 또한 이매진 모델도 업데이트를 통해 이미지 편집, 캡션, 시각적 질의응답 등 새로운 기능을 추가했다고 구글은 밝혔다.

구글은 조만간 기업이 데이터로 기초 모델을 맞춤 설정할 수 있도록 사람의 피드백이 포함된 강화 학습 도구를 정식 출시할 예정이다. 해당 도구는 현재 공개 프리뷰 버전으로 제공되고 있다. ciokr@idg.co.kr