기업향 생성형 AI 검색 어시스턴트 ‘글린 챗’ 나온다··· 동작 원리는? 신뢰 수준은?

생성형 AI 애플리케이션 글린 챗(Glean Chat)은 여러 엔터프라이즈 애플리케이션과 연결돼 대화형 검색 환경을 마련할 수 있게 한다. 이 애플리케이션은 팔로알토에 소재한 스타트업 ‘글린’의 지식 그래프와 엔터프라이즈 검색을 기반으로 한다.
 

스타트업 글린(Glean)은 과거 구글, 마이크로소프트, 메타에서 근무했던 직원들이 모여 2019년에 설립한 회사다. 글린이 최근 대화형 검색 인터페이스를 통해 기업 전반의 생산성과 효율성을 높이도록 설계한 새 생성형 AI 기반 어시스턴트인 글린 챗(Glean Chat)을 출시했다.

CEO이자 설립자인 아르빈드 자인은 회사의 이름을 딴 엔터프라이즈 검색 제품의 애드온인 글린 챗에 대해 ‘비정형 데이터의 파워 BI’라고 표현했다. 이어 이 생성형 AI 어시스턴트의 목표는 직원들이 기업의 애플리케이션과 콘텐츠 저장소에서 신속하고 효율적으로 정보를 찾을 수 있도록 지원하는 것이라고 전했다.

글린 챗은 오픈AI의 챗GPT와 매우 비슷하지만 기업의 콘텐츠 및 리소스 범위로 제한된다는 점에서 크게 다르다고 자인은 말했다. 사용자가 자연어 기반 쿼리를 입력하면 이 회사의 검색 기술은 API를 사용하여 쿼리와 관련된 모든 콘텐츠와 활동(애플리케이션 내 정보 포함)을 확인한 후 고객의 클라우드 환경에 저장한다. 그런 다음 저장된 데이터는 특정 기업의 데이터에 대해 학습된 대규모 언어 모델(LLM)에 공급되어 검색 또는 쿼리 결과를 생성한다.

쿼리 결과에는 문서, 대화 및 애플리케이션의 소스 정보에 대한 링크가 포함된다.

글린 챗의 구조
회사에 따르면 글린은 인프라, 커넥터, 거버넌스 엔진, 회사의 지식 그래프 및 적응형 AI 레이어로 구성된 5개의 레이어에 기반해 구축됐다.

글린 챗은 기업의 애플리케이션 및 콘텐츠 저장소에 연결하기 위해 자체 개발한 커넥터를 사용하여 세일즈포스(Salesforce), 젠데스크(Zendesk), 지라(Jira), 깃허브(GitHub), 슬랙(Slack), 피그마(Figma), 워크데이(Workday), 옥타(Okta), 아웃룩(Outlook), 원드라이브(OneDrive), 구글 드라이브(Google Drive), 박스(Box), 드롭박스(Dropbox), 셰어포인트(SharePoint)와 같은 애플리케이션 및 데이터 소스뿐만 아니라 AWS, 구글 클라우드 및 마이크로소프트의 스토리지 제품에도 연결된다.

거버넌스 레이어는 생성 AI가 회사의 설정된 경계와 ID 및 액세스 관리와 같은 보안 정책을 따르도록 보장한다고 회사는 설명했다.

자인 CEO는 지난 몇 년 동안 개발된 회사의 지식 그래프 레이어는 콘텐츠와 직원 간의 관계와 기업의 내부 언어를 이해한다며, “이를 통해 글린은 사람들이 협업하는 방식, 각 정보가 다른 정보와 어떤 연관이 있는지, 각 사용자에게 가장 관련성이 높은 정보가 무엇인지와 같은 뉘앙스를 인식할 수 있다”라고 말했다.

그에 따르면 지식 그래프 레이어는 기업이 글린을 구독하면 대규모 언어 모델과 함께 해당 기업의 데이터에 대해 학습하게 된다.

적응형 AI 레이어는 지식 그래프에서 얻은 정보에 대한 의미론적 이해를 위해 LLM 임베딩과 생성 AI를 위한 대규모 언어 모델을 통해 실행된다고 회사는 전했다. LLM 임베딩은 인공지능 모델에 컨텍스트를 제공하는 데 사용되는 벡터, 또는 배열(arrays)이다. 접지(grounding)라고도 불리는 프로세스다. 이 프로세스를 통해 기업은 엔터프라이즈 정보 코퍼스를 사용하여 AI 모델을 완전히 훈련하거나 미세 조정할 필요가 없다고 옴디아(Omdia)의 수석 분석가인 브래들리 심민은 말했다.

현재 글린은 오픈AI의 GPT-4와 BERT와 같은 구글의 트랜스포머 모델을 포함한 대규모 언어 모델을 혼합해 사용하고 있다.
 
글린 챗이 치열한 경쟁 속에서 자리를 잡을 수 있을까?
컨스텔레이션 리서치의 수석 분석가인 앤디 서라이는 글린 챗은 비슷한 제품을 가진 경쟁업체가 많기 때문에 경쟁이 치열한 생성 AI 시장에서 자리를 잡는 것은 쉽지 않을 것이라 진단했다. 서라이는 “이들은 가까운 미래에 가시성과 생존 문제에 직면하게 될 가능성이 있다”라고 말했다.

그러나 특정 기업 데이터에 대해 대규모 언어 모델을 학습시키는 글린의 접근 방식은 정형 데이터와 비정형 데이터 사이에서 검색 가능한 지식 저장소를 찾고 있는 모든 기업에게 가치를 제공할 수 있다고 그는 평가했다.

서라이는 “글린은 기본 애플리케이션 내에서 이를 수행할 수 있을 뿐만 아니라 공(Gong)과 같은 애플리케이션 데이터를 검색할 수 있는 기능을 통해 가치를 더할 수 있다”라며, 글린 챗의 다른 잠재적인 차별 요소로는 애플리케이션 커넥터와 사용자 또는 직원 프로필에 따라 데이터에 액세스할 수 있는 ‘엄격한’ 권한 제어 및 거버넌스 도구 통합이 있다고 덧붙였다.

기업이 글린 챗의 결과를 신뢰할 수 있을까?
IDC 리서치 매니저인 헤일리 서덜랜드는 기업 사용자들이 글린 챗의 결과를 신뢰할 수 있느냐는 질문에 기업들은 글린 챗과 같은 어시스턴트가 생성한 결과나 권고와 관련해 설명을 제공해야 할 것이라고 말했다.

서덜랜드는 “이는 제품에 대한 신뢰를 보장하는 데 도움이 될 뿐만 아니라, 감독자와 다른 사람들이 이러한 분석을 활용하여 문제의 잠재적 원인과 해결 방법을 이해하는 데 도움이 될 것이다. 이는 허위 정보나 기타 정확도 문제가 알려진 GPT-4와 같은 LLM을 활용하는 솔루션에 특히 중요하다”라고 말했다.

옴디아의 심민 도 회사의 접지 프로세스가 글린 챗에서 생성된 결과에 대한 정확성을 제공할 수 있어야 한다고 말했다.

심민은 “벡터 데이터베이스를 사용하는 시맨틱 검색을 통해 우리는 비교적 높은 수준의 시맨틱 정확도를 보장할 수 있다. 즉, ‘2023년 휴무일’을 검색한다는 것은 우리가 검색 결과에서 2023년 회사 공식 휴일 달력을 찾고 있다는 것을 이해한다는 의미이다”라고 말했다.

회사는 조만간 검색 결과에 대해 보다 세분화된 인용을 제공하도록 할 계획이라고 밝혔다.

글린의 가격 및 가용성
자인에 따르면 글린 챗은 좌석당 가격이 책정되며 글린의 핵심 검색 제품에 대한 프리미엄 애드온으로 제공될 예정이다. 현재 이 새로운 생성형 AI 기반 어시스턴트는 모든 글린 고객을 위한 얼리 액세스 상태다. 일반 출시(GA)는 조만간 이뤄질 방침이다.

아말감 인사이트(Amalgam Insights)의 수석 분석가인 박 현에 따르면 글린은 스노우플레이크(Snowflake)가 인수한 니바(Neeva)와 같은 기업과 경쟁하고 있다.

글린은 지금까지 세쿼이아(Sequoia), 라이트스피드(Lightspeed), 슬랙 펀드(Slack Fund), 제너럴 카탈리스트(General Catalyst), 클라이너 퍼킨스(Kleiner Perkins)와 같은 투자자들로부터 현재까지 약 1억 5,500만 달러를 유치했다.

이 회사는 이미 데이터브릭스(Databricks), 반타(Vanta), 플레이드(Plaid), 그래머리(Grammarly), 옥타(Okta), 삼사라(Samsara), 나이언틱(Niantic), 그린하우스(Greenhouse), 듀오링고(Duolingo), 웰스심플(Wealthsimple), 컨플루언트(Confluent) 등 100개 이상의 기업 고객을 보유하고 있다고 주장하고 있다.

회사 설립자로는 구글 수석 엔지니어이자 루브릭(Rubrik)의 공동 설립자인 자인을 비롯하여 T.R. 비슈와나스(이전 Microsoft 및 Meta), 피유시 프라흐라트카(구글, 우버) 및 토니 젠틸코어(Google)가 있다. ciokr@idg.co.kr