칼럼 | 챗GPT 넘어라··· 다양한 LLM 활용이 필요한 때

오픈AI의 챗GPT는 대중의 이목을 집중시킨 최초의 생성형 AI 도구였지만 최고는 아니었다. 이제 AI의 지평을 넓혀야 할 때다.
 

챗GPT는 주류화된 최초의 인공지능(AI) 브랜드이자 기록적인 성장 속도를 보여준 기술 솔루션이었다. 구글 뉴스 검색에서 300만 건 이상의 결과가 있을 정도다. 이제 TV 토크쇼 진행자들도 챗GPT를 언급하고 있다.

기술 업계에서도 챗GPT는 대규모 언어 모델(LLM) 기반 챗봇의 대명사다. 하지만 이제는 챗GPT에 대한 집착을 멈추고 강력한 대안을 둘러볼 시간이다. 먼저, 우리가 지금 이야기하고 있는 것이 무엇인지 명확히 알아본다.

대규모 언어 모델과 상위 시스템
LLM은 일반적으로 페타바이트 규모의 텍스트 데이터로 학습된 일종의 AI 시스템이다. 이 시스템은 모든 데이터에서 패턴을 찾아 쿼리 시 다음 단어나 문장을 예측하여 사람과 유사한 상호 작용을 수행한다.

챗봇은 LLM에 접근하는 도구다. 챗GPT가 이에 속한다. 무료 버전은 GPT-3.5라는 LLM에 액세스하고 유료 버전은 GPT-4.0에 접근한다. 단 이들은 동일한 LLM의 두 가지 버전일 뿐이다. 또 비슷한 모델이 놀라울 정도로 많다.

스탠포드 과학자들이 최근 LLM을 분류한 연구를 발표했다. 그들은 현재 사용 가능한 1만 5,821개의 LLM을 확인했다. 그리고 이를 이해하고 맥락을 파악하는 데 도움을 주기 위해 연구진은 ‘콘스텔레이션’(Constellation)이라는 리소스를 구축했다. 그들은 내부적으로 이를 LLM의 ‘아틀라스’(atlas)라고 지칭한다. 

챗GPT를 넘어
LLM 챗봇은 기본적으로 범용적이다. 하지만 그렇다고 하나의 도구를 모든 용도에 사용해야 한다는 의미는 아니다. 게다가 스탠퍼드와 UC 버클리에서 발표한 논란의 보고서에 따르면, 일부 용도에서 챗GPT는 실제로 "더 멍청해지고 있다"고 한다. (참고로 해당 보고서는 PDF로 링크되어 있다. 긴 학술용 PDF를 읽고 싶지 않다면 스칼라 터보(Scholar Turbo)와 같은 LLM 사이트에 PDF를 불러와서 질문만 하면 된다.)

마이크로소프트와 메타에서 제공하는 LLM 제품 중 하나는 라마 2(LLaMA 2)다. (두 회사는 라마 2가 오픈소스라고 주장하지만 논란의 여지가 있다. 그래도 구글이나 오픈AI의 LLM보다는 훨씬 더 ‘개방적’이기는 하다.) 

라마 2를 사용하는 방법은 여럿이다. 벤처 회사인 안드레센 호로위츠가 호스팅하는 데모를 통해 라마 2를 사용해 볼 수 있다. 메타 또는 AI 공유 플랫폼인 허깅 페이스(Hugging Face)에서 코드를 다운로드하거나, 마이크로소프트 애저를 통해 접근하는 것도 가능하다, 아마존 세이지메이커 점프스타트에서도 이용해볼 수 있다. 또는 라마 2와 ‘Perplexity.ai’를 결합해 쿼리에 대한 답변을 제공하는 고유한 리소스도 있다.

이 외에도 더 많은 LLM이 곧 출시될 예정이다. 심지어 애플도 구글 클라우드에서 실행되는 구글 머신러닝 프레임워크인 Jax를 기반으로 구축한 것으로 알려졌다. 코드명은 ‘Ajax’이며 일부 내부 엔지니어들은 비공식적으로 ‘애플GPT’라고 부른다. 애플 지원들은 이를 제품 프로토타이핑 작업 및 기타 용도로 사용하는 것으로 전해진다. (참고로 애플은 영업 기밀이 유출될 수 있다는 우려로 인해 직원들의 챗GPT 사용을 금지한 것으로 유명하다.)

스마트폰에서와 같이 앱이 관건
비개발자가 LLM을 사용하는 좋은 방법 중 하나는 사이트, 앱, 브라우저 확장 프로그램과 같이 이에 액세스하는 서비스를 이용하는 것이다.

기술 창업자이자 엔젤 투자자, 제품 디자이너이자 프로덕트 헌트(Product Hunt)의 슈퍼유저인 크리스 메시나는 최근 구글 팟캐스트에서 현재 프로덕트 헌트에 있는 앱의 압도적인 대다수(80% 이상)가 AI를 기반으로 하고 있다고 말했다. 불과 1년 전만 해도 AI 기반 앱은 드물었던 바 있다.

매일 새로운 도구가 출시되고 기존 도구가 강력하게 업데이트되고 있다. 퓨처피디아(Futurepedia) 및 AI 톱 툴스(AI Top Tools)와 같은 검색 도구를 이용하면 새로운 제품을 간편하게 살펴볼 수 있다.

예를 들어, 기존 검색 엔진을 대체하려 한다면, LLM 기반 검색 엔진인 파인드(Phind)라는 사이트를 추천한다. 이 사이트는 LLM에서 파생된 결과와 데이터에 사용된 검색 엔진 링크를 모두 제공한다. 최신 지식 측면에서 챗GPT보다 훨씬 뛰어난 검색 엔진 중 하나다. 일반적으로 LLM 기반 챗봇은 검색 엔진보다 부실하기에, 검색과 AI를 결합하는 것이 바람직하다.

이메일이나 생일 카드를 작성하는 데 도움을 받으려면 앤트로픽(Anthropic)의 클로드(Claude)를 추천한다. (그래도 전문 작가에게 조언을 구하는 것을 권장한다. 특별히 글쓰기를 잘하는 LLM 기반 챗봇은 없다. 이에 대한 자세한 내용은 아래에서 확인할 수 있다.)

하지만 앞으로는 또 달라질 수 있다. 이러한 도구들이 빠르게 진화하는 현실을 고려할 때 다음 달 또는 다음 주에는 특정 목적에 가장 적합한 챗봇, 브라우저 플러그인, 웹사이트 및 앱이 완전히 달라질 수 있다. 이를 기억하는 것이 중요하다.

오류 및 환각에 대처에도 유용
LLM 기반 챗봇이 제공하는 정보가 늘 정확하지는 않다. 또 불완전하거나, 완전히 잘못된 결과를 제공할지, 아니면 완벽한 결과를 제공할지 예측할 수도 없다.

오류와 착각의 함정을 피하기 위한 한 가지 조언은 두 번째, 세 번째, 네 번째 의견을 구하는 것이다. 브라우저에 북마크 폴더를 불러와서 서로 다른 LLM을 사용하는 챗봇과 비교하면 쉽게 비교할 수 있다. 예를 들어 파인드, 챗GPT, 바드, 클로드를 모두 이용하는 식이다. 프롬프트에 입력하고 복사하여 각 챗봇에 붙여넣은 다음 결과를 비교해본다. 이렇게 하면 사실에 입각한 정보를 빠르게 확인할 수 있을 뿐만 아니라 최상의 답변을 선택할 수 있다.

개인적 경험에 따르면 이러한 서비스 중 서너 개가 일치하면 일반적으로 신뢰할 수 있는 정보다.

또 다른 대안으로는 여러 모델을 선택해 나란히 사용해 볼 수 있도록 하는 AI 플레이그라운드(AI Playground)가 있다.

필자는 몇 년 전 인간의 글쓰기 능력, 더 나아가 사고력이 위축되지 않도록 AI가 대신 글을 쓰게 해서는 안 된다고 경고한 바 있다. 이제 좀 더 미묘한 권고를 하고자 한다. 프롬프트만 입력한 후 그 결과를 복사하여 붙여넣기만 하면 AI는 우리의 글쓰기 능력을 약화시킬 수 있지만, AI를 글쓰기 파트너로 사용함으로써 글쓰기와 사고 능력을 향상시킬 수도 있다.
 
오늘날 AI의 세계는 매우 다양하고 복잡하다. 현 단계에서 최선의 조언은 꾸준히 실험해 보라는 것이다. 가능한 한 많은 새로운 도구를 사용해본다. AI를 업무에 통합하는 실험을 해본다. 창의적인 쿼리를 실행해본다. 그리고 AI를 브레인스토밍 파트너이자 공론의 장으로 활용한다.

AI 세계는 놀라울 정도로 빠르게 변화하고 있다. 우리가 살아오면서 경험한 그 어떤 기술 분야보다 빠른 속도다. 그리고 이 기술의 가능성과 위험성은 압도적이다. 기술 및 비즈니스 업계에 종사하는 우리 모두는 모험심과 학습, 실험 정신을 가지고 접근해야 한다. 적어도 습관적으로 챗GPT만 고집해선 안 된다. 

* Mike Elgan은 기술 및 기술 문화에 대해 저술하는 전문 기고가다. ciokr@idg.co.kr