가능성과 호들갑 사이··· 챗GPT·LLM의 실제 비즈니스 가치는? 활용처는?

1. 공개 LLM에 기밀을 공유하지 말 것
K2 글로벌 커뮤니케이션즈의 공동 설립자이자 COO인 에이미 케닉스버그는 “통제할 수 있다면 AI는 유용하다. 우리 대부분은 약관 페이지에서 ‘동의합니다’를 클릭하지만, AI 툴의 약관에 대해서는 자세히 읽을 필요가 있다”라고 말했다.

많은 회사들이 챗GPT 정책 초안을 마련하는 중이다. 비즈니스에 민감한 정보를 공유하는데 따른 위험에 대해 관심이 높다. 최근 삼성전자에서도 엔지니어가 기업의 독점 코드를 챗GPT에 입력해 디버깅하는 사태가 벌어져 눈길을 끈 바 있다.

케닉스그는 “챗GPT를 비롯한 많은 AI 툴의 문제는 사용자가 입력한 모든 정보가 훈련 데이터 세트의 일부가 된다는 것이다. 만약 누군가가 독점적인 데이터를 입력한다면, 그 정보가 경쟁업체의 자료에 나타날 수도 있다. 만약 고객을 분석하기 위해 개인 식별 가능한 정보 (PII)를 입력한다면, 그 회사는 GDPR, CCPA 또는 많은 개인 정보 보호 규정들 중 하나를 위반할 수 있다”라고 말했다.

기업은 사용 사례를 실험하고 탐색하기 전에 내부 AI 및 데이터 거버넌스 정책을 검토하고 컴플라이언스에 대비해야한다.

2. 주요 업무 툴 내의 LLM 기능 검토하기
지난 몇 달 동안 많은 기술 공급업체들이 새로운 AI 및 LLM 기능을 자사 플랫폼에 내장했다. 이러한 기능이 생산성을 향상시키고, 정보에 대한 액세스를 단순화하거나, 기타 새로운 운영 이점을 제공하는 방법을 모색할 필요가 있다. 다음은 최근 발표된 사례의 일부다.

● 마이크로소프트 365 코파일럿이 워드, 엑셀, 파워포인트, 아웃룩, 팀즈에 탑재되다.
● 어도비 파이어플라이는 포토샵, 일러스트레이터, 어도비 익스프레스에 플러그인 되는 생성형 AI이다.
● 세일즈포스는 AI 클라우드를 핵심 CRM 제품, 슬랙, 태블로에 통합한다고 발표했다. 
● 깃허브 코파일럿는 IDE와 통합되어 코드를 제안한다. 
● 구글 클라우드용 구글 듀엣 AI에는 코드 지원, 채팅 지원 및 앱시트 기능이 포함된다.
● 아틀라시안 인텔리전스는 지라 소프트웨어, 지라 서비스 매니지먼트 및 컨플루언스에서 정보를 요약하고 질문에 답한다.
● 서비스나우는 마이크로소프트 애저 오픈AI 서비스 및 오픈AI API LLM과의 통합과 AI 기반 검색 기능 향상을 발표했다.
● 크라우드스트라이크는 보안 운영의 복잡성을 줄이면서 침해를 방지하는 데 도움이 되는 샬롯 AI를 소개했다.
● 코비오 관련성 생성 응답은 지능형 검색 플랫폼에 LLM 기능을 추가한 것이다.

3. LLM의 한계 인식
챗GPT 및 LLM의 주요 활용처는 번거로운 기본 조사나 학습 과정 없이 답변을 신속하게 얻는 것이다. 예를 들어, 마케팅 담당자는 고객 이메일 문구에 도움을 구할 수 있고, 기술자는 기술 용어의 정의를 확인할 수 있으며, 인사담당자는 내부 정책 안내문을 쉽게 작성할 수 있다.

또한 엔터프라이즈 콘텐츠를 기반으로 개발된 LLM은 많은 이점을 제공할 수 있다. 직원의 온보딩을 돕고, 제품 정보를 쉽게 찾게 해준다.

달리 말해, 챗GPT와 여타 LLM은 여러 업무의 생산성을 높이고, 인간의 역량을 향상시키고, 콘텐츠를 만드는 데 도움을 줄 수 있다.

데이터뱅크의 라울 마티넥 CEO는 “생성형 AI는 정부, 경제 및 금융 데이터 등을 검색하여 기업이 신속한 분석 및 보고서를 생성하는 데 매우 유용하다. AI는 이미 정보에 입각한 의사 결정을 신속하게 내릴 수 있도록 돕고 있다. 가령 데이터센터의 환경이나 고객의 의도, 직원의 감정 등을 신속하게 이해하게 해준다”라고 말했다.

하지만 챗GPT과 다른 LLM의 한계를 꼭 이해해야 한다. 페르사도의 CEO인 알렉스 브랏스키데스는 오픈AI의 CEO인 샘 알트만의 발언을 언급했다. “알트만은 챗GPT에 대해 ‘위대한 무엇이라는 오해의 소지를 준다’라고 말했다”라며 그는, “만약 생산성의 비약적인 개선을 찾고 있다면, 챗GPT은 인상적인 툴이다. 그러나 챗GPT 자체는 여전히 불충분하며, 오해의 소지가 있다”라고 말한다. 

브랏스키데스는 사람들의 의사 결정을 향상시킬 수 있게 해야 AI가 위대해진다고 표현했다. 그는 “모델이 기업 데이터에 대해 훈련될 때, 언어는 사람들이 참여하고 행동하도록 동기를 부여하기 위해 개인화될 수 있고, 따라서 비즈니스 영향을 미친다”라고 말했다.

모델들이 또 상충하는 정보, 거짓, 그리고 편견 있는 의견을 포함하는 출처에 대해 훈련을 받기 때문에 AI 편견을 예상해야 한다. 세마포어 CI/CD의 공동 설립자인 마르코 아나스타소프는 “비록 강력하기는 하지만, 언어 모델들은 궁극적으로 그들의 훈련 데이터에 뿌리 박힌 편견과 인간 의사소통의 복잡성에 의해 구속된다”라고 말했다. 

마지막으로, 챗GPT는 훌륭한 연구 툴이지만, 그것이 어떤 데이터에 대해 훈련을 받았는지 검토해야 한다. 프리사이슬리의 최고 제품 책임자인 안잔 쿤다바람은 “챗GPT는 최신 사건이나 뉴스를 알지 못한다. 그것은 또한 텍스트에 기반하여 인간의 대화에 대해 훈련을 받았는데, 잠재적으로 부정확하거나, 진실하지 않거나, 오해를 불러일으키는 데이터를 사용한다. AI 모델을 구동하는 데이터의 무결성은 그것의 성능과 신뢰성에 직접적으로 영향을 미친다”라고 말했다.

쿤다바람은 비즈니스 효율성을 감안하라고 조언했다 “고객을 응대하는 부서에 매우 적합하며, 직원들이 가치를 추가하는 데 집중할 수 있도록 간단한 대화 작업을 자동화하는 데 도움이 된다”라고 그는 전했다.

4. 복잡한 정보에 대한 이해 단순화
기업의 기술 및 정보 스택에 있는 콘텐츠는 복잡하기 십상이다. 또 데이터 소스 내에서 중요한 정보를 식별하기 어려운 경우가 태반이다. 키워드 검색 상자는 자연어 쿼리 및 프롬프트에 뒤쳐진 세대의 기술이기 때문에 많은 기업이 고객 및 직원 경험을 개선하기 위해 AI 검색을 사용하는 방안을 모색할 가능성이 높다.