오라클, 코히어와 협업해 만든 ‘오라클 클라우드 인프라스트럭처 생성형 AI’ 서비스 출시

오라클이 오라클 클라우드 인프라스트럭처 생성형 AI(Oracle Cloud Infrastructure Generative AI) 서비스를 제한적으로 출시한다고 발표했다. 새로운 생성형 AI 서비스는 대규모 언어 모델(LLM)을 지원해 기업의 엔드투엔드 비즈니스 프로세스 자동화, 의사결정 과정 개선, 고객 경험 향상 및 안전한 데이터 보호를 지원할 예정이다.
 
기업용 AI 플랫폼 제공업체인 코히어와의 협업을 통해 OCI 상에 구축된 OCI 생성형 AI 서비스는 사용자가 가용한 API를 통해 LLM을 자체 애플리케이션에 통합할 수 있도록 지원하는 관리형 서비스다. 정식 출시 이후 해당 서비스와 코히어 모델은 사전 학습된 LLM과 독점 비즈니스 데이터를 결합해 더 높은 정확도로 응답을 제공하는 생성형 AI 기술인 검색 증강 생성(retrieval augmented generation; RAG)을 제공하는 오라클 데이터베이스 23c(Oracle Database 23c)의 기능인 AI 벡터 검색(AI Vector Search)과 원활하게 작동할 예정이다. 

또한, OCI 생성형 AI 서비스는 오라클 퓨전 클라우드 애플리케이션 제품군(Oracle Fusion Cloud Applications Suite), 오라클 넷스위트(Oracle NetSuite) 등 오라클의 서비스형 소프트웨어(SaaS) 애플리케이션 제품군과 오라클 서너(Oracle Cerner) 등 산업용 애플리케이션 전반에 내장될 생성형 AI 기능의 기반이 될 예정이다.

오라클의 클레이 마고요크 OCI 총괄 부사장은 “오라클과 코히어의 파트너십을 통해 고객은 오라클의 솔루션이 그들의 가장 엄격한 데이터 보안 및 개인정보 보호 요구 사항을 충족시킨다는 확신을 갖고 생성형 AI를 기술 스택에 손쉽고 안전한 방식으로 적용할 수 있게 될 것”이라며, “기업 조직은 또한 자체 데이터를 사용해 이와 같은 모델을 개선할 수 있으며, 모델들은 각 조직의 내부 운영 방식을 그 누구보다 긴밀히 파악할 수 있게 될 것”이라고 말했다.

저렴한 비용과 더불어 안전하고 빠른 AI 인프라스트럭처를 제공하는 OCI는 고객이 코히어의 모델을 기업용 사용 사례에 특화된 관리형 서비스로써 활용할 수 있게 지원할 예정이다. OCI 생성형 AI 서비스를 사용하는 고객은 오라클의 독보적인 AI 수퍼클러스터 아키텍처 기반 전용 인프라스트럭처에서 워크로드를 실행할 수 있으며, 이를 통해 고객은 자체 데이터로 모델을 미세 조정하거나 자체 커스텀 모델을 배포하는 데에 필요한 비용 및 처리량 요구 사항을 직접 관리할 수 있게 된다.

새로운 OCI 생성형 AI 서비스에는 ▲명령(Command) ▲요약(Summarize) ▲임베드(Embed) 명령 모델이 포함된다.

명령 모델은 사용자의 요청(prompt)을 바탕으로 텍스트를 생성한다. 2가지 크기로 제공되는 명령 모델은 텍스트 생성, 텍스트 요약, RAG, 채팅 등 비즈니스 사용 사례에 따라 고도의 맞춤 설정이 가능하다.

요약 모델은 텍스트 요약을 수행하며, 사용자가 다양한 매개변수를 사용해 그 결과를 구성하여 고유의 사용 사례를 지원할 수 있게 한다. 예를 들어, 법무팀을 위해서는 복잡한 문서를, 고객 서비스 담당자들을 위해서는 기술 지원 문서를, 바쁜 직원들을 위해서는 긴 이메일 내용을 요약한다.

텍스트를 표현하는 임베드 모델은 텍스트를 모델이 이해할 수 있는 숫자 벡터로 전환한다. 해당 기능은 시맨틱 검색, 텍스트 분류, RAG용 검색 엔진, 레거시 검색 개선 등을 포함한 광범위한 사용 사례를 위한 영어 및 100개 이상의 다국어 모델을 제공한다.

코히어의 마틴 콘 회장 겸 최고운영책임자(COO)는 “오라클과 코히어는 보안, 모델 커스텀화, 지연 시간이라는 세 가지 원칙을 중심으로 기업용 AI 제품을 제공하며, 기업이 AI 기술을 신속하고, 유의미하며, 비용 효율적이고 책임감 있는 방식으로 배포할 수 있도록 지원하고자 한다”며 “코히어는 오라클과 긴밀히 협력하고 있으며, 데이터 보안과 개인정보 보호를 우선으로 하는 접근 방식을 취함으로써 기업들이 AI를 활용해 비즈니스를 한층 강화할 수 있도록 지원하고 있다”고 설명했다.

오라클 AI는 OCI 생성형 AI 서비스 외에도 ▲오라클 디지털 어시스턴트 ▲OCI 언어 헬스케어 NLP ▲OCI 언어 문서 번역 경험 ▲OCI 비전 ▲OCI 스피치 ▲OCI 데이터 과학와 같은 여러 제한적으로 이용가능한 프로그램을 통해 기존 서비스에 향상된 기능을 지속적으로 추가하고 있다. ciokr@idg.co.kr