Offcanvas

AI / 디지털 트랜스포메이션 / 머신러닝|딥러닝 / 비즈니스|경제

만반의 ‘혁신’ 준비 마쳤다’··· NLP에 주목할 이유

2020.07.21 Mary Branscombe  |  CIO
고객 대면 챗봇을 서비스하고, 계약서를 검토하며, 회의 내용을 분석하는 것까지 이제 ‘자연어 처리(NLP)’는 비즈니스를 '변혁'할 수 있는 만반의 준비를 마쳤다. 

최근 ‘자연어 처리(Natural Language Processing, NLP)’ 기술이 더 정확해지고, 더 널리 보급되고 있다. 이는 음성 및 텍스트 기능으로 주류 기술을 강화하고 있다. 이를테면 이메일을 자연스러운 음성으로 읽어주거나 엑셀에서 스프레드시트 데이터에 관한 질문을 입력하면 자동 생성 차트와 피벗테이블 형태로 답을 받는 것이다. 
 
ⓒGetty Images

사전 설정한 주제로만 제공되던 고객 지원 챗봇도 개선되고 있다. 이제 정성적, 반구조적, 비정형 데이터 처리로 옮겨갈 수 있는 잠재력을 갖추게 된 것이다. 즉, NLP 기술을 바탕으로 데이터로부터 지식을 발견(knowledge mining)하게 됨으로써 기업의 프로세스, 자산, 부채 등에 숨겨진 유용한 데이터를 파악해 더 나은 워크플로우를 생성하고 실시간 정보를 얻을 수 있다. 

에이펙스애널리틱스(apexanalytix)의 응용 및 고급 기술 부문 수석부사장 월트 크리스틱에 따르면 NLP는 단어를 가장 단순한 형태로 분해하고 이들 사이의 패턴, 규칙, 관계를 찾아낸다. 그는 “컴퓨터 알고리즘으로 문어와 구어를 분석하고 해석하기 때문에 시스템이 인간의 언어를 배우고 이해할 수 있다”라고 말했다. 

오늘날 NLP는 번역과 언어 생성(요약, 주석 등)부터 분류 및 클러스터링, 감정 분석, 기타 정보 추출에 이르기까지 다양하게 활용되고 있다. 가장 간단한 형태의 NLP는 이미 널리 사용되고 있다고 크리스틱은 전했다. 이를테면 맞춤법 검사, 이메일 및 메시지 응답 추천, 시리(Siri)와 같은 가상 비서 등이다. 이들은 챗봇과 마찬가지로 NLP를 사용한다.

그는 “텍스트 데이터 및 비관련 데이터 소스의 의미를 분석하고 추출하는 기술에 대한 수요가 증가하고 있다. 특히 의료와 생명과학 시장이 그렇다”라고 말했다. 

여기서는 NLP 기술의 현황이 어떠한지, 그리고 이 기술이 기업의 어떤 지점에서 활용될 수 있을지 살펴본다. 

NLP 서비스의 우위
파이썬 NTLK(Python NLTK), 샌포드 코어NLP(Sanford CoreNLP), 아파치 오픈NLP(Apache OpenNLP) 등의 프레임워크와 함께 NLP 프로젝트를 구성할 수 있는 많은 알고리즘이 있다. 하지만 가장 효과적인 자연어 생성 모델은 엄청나게 크다.

작성 당시를 기준으로, 지금까지 발표된 것 중 최대 규모는 마이크로소프트가 공개한 ‘튜링((Turing)’이다. 이는 170억 개 매개변수를 학습한 세계 최대 자연어 생성 모델이다. 이 밖에 BERT와 GPT-2도 수십억 개의 매개변수를 확보했다.

마이크로소프트의 대화형 AI 부문 부사장 릴리 쳉은 “무작정 이런 모델들을 개발한다고 해서 원하는 효과를 볼 수 있는 것은 아니다”라고 언급했다. 이어서 그는 “이렇게 큰 모델을 호스팅하고 관리하며 모든 작업을 처리하기란 대부분의 기업들에게 어려운 일이다. 대부분 기업들은 이를 기반으로 자신만의 정보를 커스텀하고 추가하길 원할 가능성이 크다. 하지만 많은 기업이 NLP 전문가를 고용하는 데 어려움을 겪고 있다”라고 덧붙였다. 

따라서 쳉에 따르면 AI 전문성을 보유한 기업일지라도 개발자와 현업 사용자가 NLP 기술을 활용할 수 있도록 마이크로소프트, 아마존, 구글, IBM 등 벤더의 NLP 서비스를 선택하는 경우가 많다.

마이크로소프트의 고객사인 텔레포니카(Telefonica)도 AI 사업부가 있다. 하지만 개발 전문지식이 없는 현업 사용자가 Q&A 메이커(Q&A Maker) 등의 서비스로 자신만의 툴을 만들 수 있도록 마이크로소프트의 파워 플랫폼(Power platform)을 사용하고 있다.

쳉은 “PDF 파일이나 웹 페이지 FAQ 등을 활용하는 등 모든 출처를 기반으로 지식 베이스를 구축한다. 이를 통해 질의응답, 검색, 대화 등을 해볼 수 있다”라고 설명했다. 여기서 NLP의 주된 용도는 챗봇이다. 챗봇은 주문을 받는 것부터 FAQ로부터 답변을 제공하고, 문의사항을 전달하며, 회의를 예약할 수 있다. 필요한 경우 사람과 대화를 나눌 수도 있다. 

또한 컨퍼밋(Confirmit)의 제품 관리 책임자 폴 퀸은 NLP가 점차 증가하고 있는 텍스트와 음성 데이터로부터 인사이트를 얻을 수 있는 강력한 툴이라고 말했다. 

그는 “콜센터 메모, 고객 이메일, 설문조사 답변 등을 포함해 100테라바이트 이상의 비정형 데이터를 보유하고 있는 기업이 많다. 고객 경험을 개선하거나 브랜드와 관련한 인사이트를 추출하고 싶은 기업이라면 NLP를 사용하여 엄청난 양의 데이터를 살펴보고 그 안에 숨어있는 유용한 것들을 찾아낼 수 있다”라고 설명했다. 

IBM 펠로우이자 AI 수석 아키텍트 닥시 아그라왈은 고객을 직접 상대하는 산업군 외에도 NLP를 활용할 수 있는 산업이 많다고 언급했다. 그는 어떤 상대든 상호작용이 발생한다면 NLP를 사용해 인사이트를 얻을 수 있다고 말하면서, “많은 기업이 고객 및 파트너만큼이나 내부 직원, 일반 HR과의 커뮤니케이션에도 NLP 기술을 활용하고 있다”라고 덧붙였다.

예를 들면 단순한 키워드 추출이 아닌 문장 임베딩 등의 NLP 기술을 사용하는 ‘토픽 클러스터링’은 사용자들이 저마다 다른 용어로 표현한 문제들을 정확하게 그룹화할 수 있다. 대시보드에서 이러한 클러스터를 하이라이트 하면 어떤 문제가 있는지, 반복되는 문제는 무엇인지를 확인하는 데 도움이 된다. 

영국 데이터 분석 업체 시그노이(Signoi)는 설문조사의 주관식 문항을 분석하는 서비스를 제공한다. 이를 위해 자주 사용되는 단어를 파악하고, 긍정적인 말과 부정적인 말을 강조하며, 이를 인구 통계 그룹별로 집계한다. 

영국의 대중교통 관련 시민단체인 트랜스포트 포커스(Transport Focus)는 시그노이의 솔루션을 사용해 통근자와 여행객들이 생각하는 열차 서비스의 문제점을 파악할 수 있었다. (통근자들은 특정 노선이 너무 붐빈다고 불평했으며, 여행객들은 주차장과 짐 보관소가 문제라고 답했다.)

또한 NLP는 결과를 설명하는 언어 생성에 사용될 수 있다. 마이크로소프트의 파워 BI 분석 서비스(Power BI business analytics)와 세일즈포스닷컴의 타블로(Tableau)는 사용자가 데이터 관련 질문을 입력하면 그에 맞게 차트 또는 자동화된 분석을 제공한다.

알고 있지만 인지하지 못하는 것을 추출해준다
NLP는 기업이 이미 알고 있지만 ‘인지하지 못하는 것’을 추출하는 데 도움이 된다. 이를테면 계약서용 ABBYY 텍스트 애널리틱스(ABBYY Text Analytics for Contracts), 엑시젠트 계약서 관리 솔루션(Exigent Contract Management Solution), 씰 계약서 디스커버리 및 애널리틱스(Seal Contract Discovery and Analytics) 등의 AI 기반 전문 툴은 계약서에서 조건과 기한을 추출해준다. 이는 기업으로 하여금 계약 내용을 확인할 수 있도록 지원한다. 

XML(Extensible Markup Language) 공동 개발자 장 파올리가 설립한 스타트업 도큐가미(Docugami)는 덜 정형화된 문서로도 필요한 정보를 추출하는 것이 목표다. 파올리는 “기업의 데이터 가운데 15%만이 데이터베이스에 저장된다. 여전히 모두가 텍스트, 이메일, 문서로 커뮤니케이션한다. 진실은 아름답게 구조화된 데이터베이스에 있지 않다. 진실은 문서에 있다”라고 지적했다.

이어서 그는 “부동산과 같이 문서를 많이 작성하는 산업군을 가정해보자. 현업 직원은 일주일 동안 임대차 계약서 15개를 작성하느랴 시간을 보낸다. 관리자는 매주 월요일마다 ‘어떤 일을 했는가? 거래 완료 일자는 언제인가? 주차(parking)는 협상했는가? 고객이 우리가 해당 부동산을 유지 관리하길 원하는가?’ 등을 묻는다. 작업을 마친 후에는 데이터베이스가 제공해야 할 정보들이지만 해당 정보는 그냥 문서에 묻혀 있다”라고 설명했다. 

이러한 ‘다크 데이터(dark data)’를 확인할 수 있다면 매주 월요일 오전 회의를 대체하고 비즈니스 민첩성을 향상시킬 수 있다. 

파올리는 “현시점에서 NLP를 사용하여 비즈니스 문서를 분석하는 것은 매우 중요하다. 기업들이 비즈니스 모델을 재고하고 있기 때문이다. 모든 것을 재협상해야 할 수 있으며 기업의 의무와 위험이 무엇인지 파악해야 한다”라고 말했다. 액센츄어 역시 자체 개발한 NLP를 사용해 100만 건 이상의 계약을 검토하면서 조건과 책임을 확인하고 있다.

회의 내용에서 유용한 정보 추출하기
회의 내용에서 유용한 정보를 추출하는 것은 많은 리소스가 투입되는 수동 프로세스다. 규제 준수를 위해 회의 내용을 기록하는 기업도 일부 있지만 이를 분석하는 경우는 드물다. 

오터(Otter)의 CEO 샘 리앙은 평균적으로 업무 시간의 30%를 회의에 할애하는 상황에서 회의 내용이 다른 비즈니스 데이터처럼 유의미한 방식으로 수집되지 않고 있다고 지적했다. 그는 “게다가 줌(Zoom)과 같은 화상회의가 시시각각 이어지는 상황에서 어떻게 같은 정보를 공유할 수 있을까?”라고 전했다.

오터를 비롯해 파워포인트 프레젠테이션과 팀즈 미팅의 실시간 자막, 애저 스트림 방송 플랫폼에서 제공하는 검색 가능한 실시간 회의 전사본 등은 수기로 회의록을 작성하지 않고도 추후에 회의 내용을 확인하는 데 도움이 된다. 

쳉은 “플랫폼들이 앞으로 전사본 및 문서 분석, 이미지 인식을 활용하여 총체적인 회의 정보를 추출할 것이다. 회의 후에도 업무를 하면서 이러한 정보에 쉽게 접근할 수 있다. 현황을 문서화하고 팀과 더 쉽게 공유할 수 있을 것”이라고 설명했다.
 
이를테면 브릿지워터 어소시에이츠(Bridgewater Associates)는 지난 15년간 모든 내부 회의를 기록했다. 회사에 따르면 누구나 해당 기록을 볼 수 있었지만 검색하기가 어려웠기 때문에 이를 확인하는 경우는 거의 없었다. 현재 이 기업은 오터를 사용해 오래된 회의 내용을 추출 중이다. 

애저 코그니티브 서비스(Azure Cognitive Services)에 포함된 음성-텍스트 변환 API가 머지않아 원드라이브(OneDrive)로 업로드된 오디오 파일의 전사본을 작성할 것이다. 애저 미디어 서비스(Azure Media Services)의 실시간 전사를 위해서다. 개발자들은 이미 해당 API를 사용하여 녹취 앱을 구축할 수 있지만 이 기능을 플랫폼에 직접 내장하면 접근성이 훨씬 좋아진다.
 
애널리틱스 그리고 정확도
완벽한 전사본이 NLP 기술의 가장 유용한 결과는 아니다. 하지만 이는 맥락 검색이 가능한 연표를 제공할 수 있다. 

오터는 자동 요약으로 태그를 추출하여 텍스트에서 무엇을 다루었는지 알려준다. 물론 IBM 왓슨 NLU(IBM Watson Natural Language Understanding)와 같은 툴이 자동 문서 요약 기능을 제공하고 있으며 오터도 유사한 것을 개발하고 있지만 그래도 여전히 전사본을 참조해야 한다. 2018년 마이크로소프트도 회의 전사본에서 액션 항목을 생성하여 할당할 뿐만 아니라 참가자들에게 회의록을 배포하는 팀즈용 프로토타입 시스템을 선보인 바 있다. 

장기적으로 볼 때 NLP는 ‘회의 분석’을 지원할 수 있다. 이를테면 같은 주제가 계속 언급되는지, 동일한 마감일이 계속 미뤄지는지, 일부 직원이 다른 직원보다 더 많이 발언하는지 등에 대해서 말이다. 

이 모든 것의 가치는 전사본의 정확도에 달려 있다. 하지만 일반적으로 NLP의 정확도를 측정하기가 어렵다. 많은 NLP 시스템이 공식적인 벤치마크를 기준으로 ‘인간과 동등한 수준(human parity)’을 달성하지만 대부분 대화를 기반으로 하고 있다. 쳉은 단일하고 유용한 측정값이 없다고 지적했다.

쳉은 “여러 기능을 멀티모달(multimodal) 시스템으로 통합하는 경우가 있다. 하지만 대화 시스템이 정말로 훌륭할지라도 언어, 이미지, 문서 등을 검색하거나 혼합하는 일은 제대로 하지 못한다”라고 설명했다. 
 
전사본의 정확도는 녹화 품질, 배경 소음, 억양, 대화 주제 등에 따라 달라진다. 리앙은 네이티브 영어 화자가 조용한 곳에서 말했다면 정확도가 95% 이상이라고 언급했다. 실제로 유용하긴 하지만 완벽하지는 않은 전사본을 얻게 되는 것이다.

또한 어떤 NLP 툴을 사용하든 업계 기술 용어, 제품명, 직원 이름 등 기업에 중요한 개념과 관계에 관한 어휘가 올바르게 인식될 수 있도록 커스텀 하는 데 시간을 투자해야 한다. 

한편 쳉은 엔드투엔드 경험에 집중하라고 조언했다. 그는 “사람들이 실제로 사용하는 것, 기업에 도움이 되는 것, 혹은 고객이 효과적으로 무엇인가를 할 수 있도록 하는 것에 초점을 맞춰라. 이들을 지원하고자 여러 기술들을 어떻게 조합했는가?”라고 말했다. 

그는 “도가 지나친 약속을 해선 안 된다. 물론 자연어 툴이 개선할 수 있는 것들이 많지만 AI는 마법이 아니다. 오늘날 기업들의 가장 큰 문제는 정보를 조직화하고, 여기로부터 더 많은 인사이트를 얻어내며, 전문지식을 가진 사람들이 이를 주도하도록 하는 것이다. 전사적인 재택근무 경험도 AI를 통해 개선할 수 있을 것이다”라고 말했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.