Offcanvas

AI / 머신러닝|딥러닝 / 클라우드

마이크로소프트, 애저 오픈AI에 챗GPT 모델 서비스화··· “이용 요금 매력적”

2023.03.13 Brian Cheon  |  CIO KR
이제 다양한 엔터프라이즈 및 최종 사용자 애플리케이션 호스트에 챗GPT를 직접 통합할 수 있다. 가격 시스템은 토큰 기반이다.

마이크로소프트가 챗GPT AI 언어모델을 프리뷰로 제공한다. 회사의 애저 오픈AI 서비스용 애플리케이션에 대한 컴포넌트 형태다. 개발자들이 이 대규모 언어 모델을 여러 엔터프라이즈 개발이나 사용자 애플리케이션(콜센터 대화 요약, 청구 처리 자동화, 개인화된 콘텐츠로 광고 제작 등)에 통합할 수 있게 됐다는 의미다. 

한편 마이크로소프트는 이미 이러한 통합 작업을 수행한 레퍼런스 고객 기업을 몇몇 나열했다. ODP 코포레이션(오피스 디포 및 오피스맥스의 모회사), 싱가포르의 SNDGO(Smart Nation Digital Government Office), 계약 관리 소프트웨어 제공업체인 아이서티스(Icertis) 등이다. 

챗GPT와 같은 생성 AI는 이미 마이크로소프트의 제품군에 사용되고 있다. 예를 들어 프리미엄 버전의 팀즈는 챕터를 생성하고 자동으로 요약한다. 비바 세일즈는 데이터 기반의 지침을 제공하고 고객에게 발송할 이메일 콘텐츠 초안을 만들어주기도 한다. 

IDC에서 AI 및 자동화 부문을 연구하는 리투 요티 부사장은 마이크로소프트의 챗GPT 기반 제품이 일단 기업 내에서 집중적으로 사용될 가능성을 제시했다. 그는 "예를 들어, HR이 직무 설명을 작성하도록 돕고 내부 지식 관리 및 발견을 통해 직원을 도울 수 있을 것이다. 즉, 내부 검색을 통해 직원을 지원하는 식이다"라고 말했다.

서비스 가격은 토큰 기반으로 작동한다. 하나의 토큰은 서면 영어로 제시된 쿼리의 약 4자 분량을 처리한다. 일반적으로 한 단락은 100토큰에 해당하며, 1,500단어 에세이는 약 2,048개 정도다. 

요티에 따르면 챗GPT가 입소문이 나기 직전에 GPT-3 기반 애플리케이션이 인기를 얻은 이유 중 하나는, 오픈AI 재단이 1,000개 토큰에 대해 약 0.02달러로 인하된 가격을 제시했기 때문이었다. 애저를 통한 챗GPT는 챗GPT는 토큰 1,000개당 0.002달러로 비용이 훨씬 저렴하기 때문에 사내 대규모 언어 모델을 사용하는 것보다 서비스가 잠재적으로 더 경제적이라고 그녀는 덧붙였다. 

요티는 “가격이 무척 매력적이라고 본다”라고 말했다. 
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.