챗GPT와 GPT-4의 개발사인 오픈AI가 회사의 첫 번째 개발자 컨퍼런스에서 몇 가지 새로운 업데이트를 발표했다. 여러 오픈소스 소프트웨어 벤더의 생존을 위협할 가능성으로 이어진다는 평가다.
이 회사는 샌프란시스코에서 개최한 첫 번째 개발자 컨퍼런스에서 새로운 어시스턴트 API, 새로운 모달리티(modalities), 맞춤형 GPT, 모델을 위한 새로운 스토어, 새로운 가격 정책 등 여러 가지 업데이트를
발표했다.
옴디아의 수석 애널리스트 브래들리 심민은 이번 발표에 대해. “오픈AI가 랭체인과 같은 프레임워크와 라이브러리, 심지어 메타의 파이스(Faiss) 및 크로마DB(ChromaDB)와 같은 벡터 데이터베이스와 같은 포인트 솔루션에 있었던 여러 기능을 복제하려 한다”라며, “오픈소스 커뮤니티 전체를 직접 겨냥하는 행보”라고 평가했다
그는 이어 오픈AI가 가격을 낮추고 함수 생성 기능, 다중 양식(코드, 이미지 등) 기능, 임베딩 기능을 새로운 GPT의 사용자 경험의 기본 요소로 구축하려 했다면서, 이는 자체 구축, 오픈소스 개발 노력에 대한 대안이 되고자 하려는 노력이라고 분석했다.
.
심민은 오픈AI의 새로운 업데이트를 버텍스 AI 서비스를 통해 새로운 개발자 환경을 도입한 구글 클라우드에 비유했다. 심민은 오픈AI와 구글의 움직임이 오픈소스 커뮤니티에서 일하는 모델 및 툴 빌더들에게 경쟁을 불러일으킬 가능성이 높다고 말했다.
위기감 느낄 소프트웨어 공급업체
업계 관계자들은 새로운 오픈AI 업데이트로 인해 몇몇 오픈소스 소프트웨어 회사가 경쟁에 직면할 것이며, 심지어 생존을 위협받을 수도 있다고 예측했다.
AI 기반 챗봇 제조업체인 컨버시카의 CEO인 짐 카스케이드 는"새로운 어시스턴트 API를 통해 개발자는 더 적은 노력으로 더 정교한 AI 애플리케이션을 구축할 수 있다. 다른 플랫폼의 개발자를 끌어들일 수 있다”라고 말했다.
오픈AI에 따르면 새로운 API는 코드 인터프리터,
검색 증강 생성(RAG),
함수 호출 등 새로운 기능을 제공한다. 이를 통해 이전에는 AI 기반 애플리케이션을 구축하는 데 필요한 '무거운 작업'을 처리할 수 있을 것으로 기대된다.
특히 어시스턴트 API는 랭체인, 라마인덱스(LLamaIndex), 크로마DB(ChromaDB)를 비롯한 오픈소스 기업의 매출 손실을 초래할 수 있다고 콘스텔레이션 리서치의 수석 애널리스트 앤디 투라이는 지적했다.
벤타나 리서치의 데이비드 메닝거 임원 디렉터는 "오픈AI로 표준화하려는 조직으로서는 회사의 플랫폼이 더 많은 것을 제공할수록 다른 프레임워크를 이용할 이유가 희박해진다. 새로운 업데이트를 통해 개발자는 단일 프레임워크 내에서 애플리케이션을 만들 수 있다"라고 말했다.
.
투라이에 따르면 특정 워크플로우, 오케스트레이션 및 기타 RAG용 도구를 제공하던 벤더들, 크로마DB, 파인콘(Pinecone) 등의 벡터 데이터베이스 회사들이 직접적 영향권에 들 가능성이 높다.
카스케이드 또한 "GPT-4 터보의 RAG 기능이 정보 검색의 효율성과 정확성을 크게 개선하고 AI 애플리케이션에 쉽게 통합될 수 있다면, 이는 파인콘의 벡터 검색 제품에 경쟁적 위협이 될 수 있다"라고 말했다.
그러나 벤타나 리서치의 메닝거는 RAG와 같은 기능이 벡터 데이터베이스 기업의 시장 기회를 감소시킬 수 있다면서도, 이 부문의 시장 다양성으로 인해 시장 전체가 커질 수 있다고 기대했다.
옴디아의 심민도 새로운 업데이트가 시장 혁신의 촉매제 역할을 할 수도 있다고 말했다.
파장을 일으킬 GPT-4 터보 및 멀티모달 기능
오픈AI의 데브데이 행사에서는 기존 제품보다 더 빠르고 효율적일 뿐만 아니라 가격도 저렴한 새로운 GPT-4 터보 모델도 출시됐다.
회사 측은 "GPT-4 터보의 경우 2023년 4월까지의 지식을 확보했으며, 더 많은 기능을 갖추고 있다. 128k 컨텍스트 창이 있어 단일 프롬프트에 300페이지 이상의 텍스트를 넣을 수 있다"라고 블로그 게시물에서 설명했다. 또 GPT-4에 비해 성능을 개선하고 입력 및 출력 토큰 비용을 절감하도록 최적화되었다고 덧붙였다.
고급 기능과 함께 가격이 인하된 새로운 모델은 생성형 AI 분야의 여러 벤더, 특히 스타트업이 오픈AI와 경쟁하는 것을 어렵게 만들 수 있다.
투라이는 "많은 생성형 AI 소규모 기업과 스타트업이 홍보와 인지도 확보에 어려움을 겪고 있다. 특정 비즈니스 문제를 해결하는 방향으로 방침을 선회하지 않는 한, 오픈AI라는 거물과 경쟁하기 어려워질 것"이라고 말했다.
.
포레스터의 애널리스트 로완 커런에 따르면, 기존 챗GPT API의 포장에 불과한 가치 제안으로 등장한 기업들은 큰 어려움을 겪을 가능성이 크다. "이러한 기업들은 오픈AI의 새로운 발표로 인해 차별화된 부가 가치 기능를 제공해야만 할 것이다”라고 말했다.
실제로 GPT-4 터보는 가격 인하와 함께 멀티모달 기능 미지원을 포함한 챗GPT의 주요 한계를 극복하고 있다. 터보 모델은 더 저렴한 텍스트 전용 버전과 텍스트와 이미지를 모두 지원하는 두 가지 버전으로 출시된다.
텍스트 전용 모델의 가격은 입력 토큰 1,000개당 0.01달러, 출력 토큰 1,000개당 0.03달러로, GPT-4 32K 모델의 입력 비용이 0.06달러인 것에 비해 저렴한다. 이 밖에ㅐ GPT-4 터보는 1,080×1,080 픽셀 이미지를 처리하는 데 0.00765 달러가 소요될 것이라고 회사는 밝혔다.
코히어와 앤트로픽을 포함한 LLM 제공업체들도 오픈AI의 업데이트로 인해 치열한 경쟁에 직면할 것이라는 분석이다.
.
투라이는 "앤트로픽과 코히어가 더 빨리 혁신하지 않으면 쇠락할 수 있다. 현재로서는 GPT-4 터보가 경쟁사보다 훨씬 앞서 있다"라며, 두 모델 제공업체의 업데이트가 곧 등장할 가능성을 제시했다.
포레스터의 커런은 GPT-4 터보가 AI 애플리케이션을 구축하고 싶지만 리소스에 제약이 있었던 개발자에게 진입 장벽을 낮출 것으로 기대된다고 말했다.
또한 새로운 기능은 지금까지 높은 비용과 대체 오픈 소스 기반 LLM의 가용성 때문에 오픈AI의 일부 LLM 도입을 주저했던 대기업에게 더욱 매력적으로 다가갈 수 있게 해준다고 그는 덧붙였다.
일반 기업에게는 희소식
오픈AI의 발표가 경쟁사들에게는 위협이지만 일반 기업에게는 새로운 수익원 창출에 도움이 될 수 있다고 전문가들은 평가했다.
컨버시카의 카스카데는 "산업 부문을 위한 맞춤형 AI 솔루션, 고급 챗봇, 음성 지원 애플리케이션, 고급 데이터 분석 및 보고, AI 기반 게임 및 엔터테인먼트, 프로그래밍 및 코드 생성, 통합 서비스, 음성 및 텍스트 분석 등 이러한 업데이트를 활용할 수 있는 새로운 활용처가 다양한다”라고 말했다.
오픈AI에 따르면 어시스턴트 API는 자연어 기반 데이터 분석 앱부터 코딩 도우미, AI 기반 휴가 플래너에 이르기까지 여러 가지 사용 사례를 가질 수 있다. 다른 사용 사례로는 음성 제어 DJ와 스마트 비주얼 캔버스 등이 있다. ciokr@idg.co.kr