일문일답 | “고객 지원 기능에 챗GPT 적용해보니..." 인터콤 머신러닝 디렉터

Q. 사용 용도에 맞게 챗GPT를 맞춤화하기 위해 IT 팀 혹은 소프트웨어 엔지니어를 사용했나? 어려움은 어느 정도였나? 

“다른 소프트웨어 및 서비스 기술 회사와 마찬가지로 인터콤에는 대규모 연구 개발 팀이 있다. 나는 여기서 머신러닝 팀을 이끌고 있다. 나를 포함해 대부분의 팀원들이 머신러닝 분야 전문가이고 머신러닝 박사학위를 갖추고 있다. 즉 우리는 머신러닝 모델을 훈련시키고 이러한 모델과 함께 작업한 경험이 많다.”

“우리는 내부적으로 알파 고객(alpha customer)처럼 활용하고 있는 고객 성공 팀을 갖추고 있다. 인터콤의 경우 약 100명의 고객 성공 담당자가 있다. 따라서 이들에게 프로토타입을 상당히 신속히 내놓고 모델에 대한 피드백을 받는다. 그러나 모델을 훈련시키기 위해 이들을 사용하지는 않는다. 단지 문제를 식별하고 문제 발생 장소를 파악하는 데 도움을 주기 위한 알파 테스터로 이들을 활용할 뿐이다.”

“이를 위해 많은 작업이 이루어져야 한다. 설득력있는 데모를 고안해 내는 것은 상당히 쉽지만 프로덕션에서 작동하도록 하기 위해 필요한 작업이 상당히 많다. 따라서 이를 초기에 검토할 수 있는 이들로 이뤄진 별도의 팀이 있다. 우리로서는 좋은 지 나쁜 지는 판단이 어렵다. 이것은 장난감인가? 이것이 담당자의 생산성 향상에 도움이 될까? 참고로 시제품으로 만든 몇 가지 제품이 있었지만 장난감에 불과했기 때문에 내놓지는 않았다.”

Q. 궁극적으로 ‘고객 담당자’라는 중개인 없는 상황을 감안해 이 챗봇 제품을 최종 사용자용으로 내놓을 것으로 보는가?

“현재 이와 관련해 검토 중이다. 현재로서는 이에 관해 공유할 준비가 되어 있지 않다. 하지만 이러한 유형의 기술은 곧 최종 사용자가 사용할 수 있도록 준비될 것이라고 본다. 많은 사람들이 ‘환각 현상’ 문제를 해결하기 위해 노력하고 있다.”

“구글이 최근에 출시를 했는데 출시 당시 모델이 사실적으로 부정확한 응답을 보여주어 많은 이들을 실망시켰다. 이러한 간헐적인 환각 현상 문제에 대처하는 방법을 알아내야 한다. 현재 이러한 문제 해결을 위해 상당한 노력을 기울이고 있고 낙관적인 입장을 갖고 있지만 현재로서는 이와 관련해 공유할 새로운 내용은 없다.”

Q. 업그레이드된 AI 지원 기능을 통해 고객 클라이언트 및 이들의 고객 서비스 담당자는 시간과 노력을 어느 정도 절약할 수 있나? 고객대응 시간을3분의1로 줄였나? 아니면 반으로 줄였나? 

“아마 그다지 많지는 않을 것이다. 상당히 새로운 기능이기 때문에 구체적인 숫자로 이야기하기는 어렵다. 원격 측정은 실행하고 있으나 수치를 얻기까지는 몇 주가 더 걸릴 듯하다. 측정하기 어려운 사항이다.  

“요약 기능의 경우, 10분 혹은 15분 정도의 대화 시간을 1~2분 정도 절약할 수 있다. 우리가 받고 있는 피드백을 살펴보면 그렇다. 확실히 현실적이고 이와 관련해 상당히 흥분하고 있다. 공개 베타 이후로 트위터에 가면 찾을 수 있는 게 이를 통해 시간을 절약할 수 있다며 글을 올리는 인터콤 고객들이다.”

“한편으로 나는 이 공간에 있는 모든 이가 현재 자신의 정직함을 유지하는 것과 관련된 도전 과제에 직면하고 있다고 본다. 그리고 이 기술은 분명히 흥미롭다. 과장하지 않고 냉정히 말하기는 어렵다. 이 기술은 현재 진정한 가치를 제공하지 않는 강력한 데모라고 할 수 있다. 따라서 실제 가치가 어느 정도 전달되고 있는지 이해하기 위해서는 해야 할 작업이 많다. 그래서 우리는 이에 대해 자세히 탐구하겠지만, 조기에 출시해 고객이 자신의 생각을 알려주기를 원했다.”

“반응은 우리의 기대를 넘어섰다. 요약과 같은 몇 가지 기능은 분명히 가치가 있으며, 텍스트를 재구성하거나 더욱 친숙하게 만드는 다른 훌륭한 기능들도 있다. 또한 메시지의 속기(short-hand) 버전을 작성 및 확장할 수 있는 기능도 있다. 고객들은 이러한 기능에 상당히 강력히 반응했다.”

Q. 그렇다면 이를 통해 고객 서비스 담당자가 어느 정도 효율성을 높일 수 있는지에 대한 확실한 데이터는 없나? 

“솔직히 한두 달 안에 원격 측정을 살펴보고 매번 이를 지속적으로 사용했는지 확인해야 한다. 그럴 것이라고 확신하지만 확인은 해보아야 한다. 킬러 앱 작업을 여전히 모색하고 있는 상태라고 봐야 한다.”

“모든 이의 관심을 끈 챗GPT다. 그러나 인터콤과 같은 몇몇 회사들은 이를 어떻게 장난감에서 진정한 비즈니스 가치로 바꿀 수 있을지를 탐색하고 있다. 인터콤에서도 ‘우리는 이 기능을 내놓았고 이러한 기능은 훌륭하다. 이들은 가치가 있을 것 같지만 아직은 판도를 바꿀 수 없다. 고객 담당자가 2배 혹은 3배로 속도를 높일 수 있다고 단언하지는 않고 있다.”

“나는 이게 우리가 현재 작업하고 있는 것의 다음 물결이라고 본다. 그리고 이러한 작업은 개발 주기가 더 길다. 빠르게 통합해서 내놓는 식의 단순한 문제는 아니다. 깊이 탐구하고 사용자 문제 및 이와 관련한 모든 각기 다른 측면, 그리고 실패한 부분을 이해해야 한다. 그래서 현재 이 작업을 하고 있다. 많은 경쟁업체 및 업계 관계자들 또한 동일한 문제를 해결하고 더 가치 있는 기능을 개발하는 데 노력을 기울이고 있을 것이다.”

“우리의 경우, 개발 주기가 상당히 빨랐고 출시도 신속했다. 많은 고객 피드백 또한 받았으며 이는 다음 단계로 나아가기 위한 방향 설정에 도움이 된다. 이게 현재 상황에 대한 솔직한 견해다.”

Q. 기업 고객이 새로운 챗GPT 기반 봇을 옵트인(opt in)하도록 유도하기 위해 어떤 노력을 기울였나? 

“인터콤은 2만 5,000곳 이상의 고객을 보유하고 있다. 그리고 우리는 많은 고객들에게 ‘베타 버전을 가지고 있다. 옵트인할 의향이 있는가?’라고 묻는다. 일부 고객은 옵트인을 하고 일반적으로 초기 소프트웨어를 사용할 의향이 있다고 이야기했다. 그리고 일부 고객은 이와 같이 하지 않으려고 했다. 은행과 같은 위험 회피 기업들은 베타 프로그램에 참여하고 싶어하지 않는다.”

“새로운 소프트웨어가 있을 경우, 베타 버전을 위한 모집을 위해 메시지를 이들에게 보낼 것이다. 우리의 프로젝트 매니저는 이를 위해 캠페인을 실시간으로 설정했고 5분 후에 이를 중단해야 했다. 이와 관련한 흥분으로 인박스가 가득 차 있었기 때문이다. 그래서 1월 중순에 베타 테스트를 위해 수백 명의 고객을 모집했다. 옵트인을 하고 데이터 처리를 위해 API를 사용하기 위해서는 여기를 클릭해야 한다고 말했다. 그런 다음 고객이 이 작업을 수행했고 이들을 위해 기능을 켰다.”

“그리고 나서 사람들이 어디에서 이를 사용하고 이것이 이들에게 효과가 있는지 파악하기 위해 다음날 원격 측정을 살펴보기 시작했다. 이는 인터콤에서 베타 버전을 실행하는 일반적인 방식이다. 이들에게 연락을 취해 피드백을 받을 수 있는지, 가치가 있다고 생각했는지를 물었다. 또한 우리가 소개한 몇 주 후 실제 리뷰를 제공할 정도로 일부 고객들은 친절했다.”

“다시 말하지만, 우리는 여타의 흥분이나 마케팅과 차별화되기를 원했다. 많은 스타트업들이 챗GPT 위에 씌워진 얇은 가죽일 뿐인 랜딩페이지(landing page)를 만들고 있다고 본다. 반면, 우리는 챗GPT가 실재임을 보여주기 위해 실제 제품을 가지고 있고 이에 대한 실제 고객 리뷰 또한 있음을 보여주고자 했다.” ciokr@idg.co.kr