2019.06.03

'생각보다 복잡' 자연어처리는 어떻게 작동하나

Martin Heller | InfoWorld


자연어처리업무
주요 NLP 업무에는 구글 번역에서 다루는 인공지능 번역의 문제 외에도 자동 요약, 대용어 해소(co-reference resolution) (특히 대명사의 경우 같은 대상을 가리키는 단어 구분), 개체명 인식(사람, 장소, 조직을 식별), 자연어 생성(정보를 읽을 수 있는 언어로 변환), 자연어 이해(텍스트 청크를 1차적 논리 구조와 같은 보다 공식적인 표현으로 변환), 부분 음성 태깅, 정서 분석(문자를 특정 대상에 대해 호의적이거나 그렇지 않은 것으로 분류), 음성 인식(오디오를 텍스트로 변환) 등이 포함된다. 

최신 세대의 신경망 기반 NLP 시스템은 때로는 중간 단계를 생략하는 것이 가능하기는 하지만, 주요 NLP 작업은 종종 하위 작업으로 분류된다. 예를 들어, 트랜스레이터트론(Translatotron)이라고 불리는 구글의 실험적인 음성 대 음성 변환기는 텍스트, 언어 번역, 그리고 텍스트 대 음성의 중간 단계 없이 음향 분석도에서 작동함으로써 스페인어를 직접 영어로 번역한다. 트렌스레이터트론은 아직 그렇게 정확하지는 않지만, 개념의 증거가 되기에는 충분하다.  

자연어처리기법
다른 머신러닝 문제들과 마찬가지로, NLP 문제는 대부분 모델링 데이터를 준비하기 위한 절차의 파이프라인으로 대체로 해결된다. DJ 사카르는 파이썬을 이용한 NLP에 대한 훌륭한 튜토리얼에서 다음과 같은 표준 워크플로우를 설명한다. 텍스트 전처리 -> 텍스트 구문 분석(parsing) 및 탐색 데이터 분석 -> 텍스트 표현 및 특질 공학(feature engineering) -> 모델링 및 패턴 마이닝 -> 평가 및 배치. 

사카르는 뷰티풀 수프(Beautiful Soup)를 사용하여 스크랩한 웹사이트에서 텍스트를 추출한 다음 NLTK(Natural Language Toolkit)스페이시(spaCy)를 사용하여 이를 토큰화, 어간 추출, 표제화 추출하는 것뿐 아니라 불용어(stopword)를 제거하고 축약된 말을 확장함으로써 텍스트를 사전 처리한다. 그리고 나서 그는 계속해서 NLTK와 스페이시를 사용하여 언어의 일부에 태그를 붙이고, 부분 구문분석(shallow parsing)을 수행하고, 태그를 붙이기 위해 엔그램(Ngram) 말뭉치를 추출한다. 엔그램에는 유니그램(Unigram), 바이그램(bigram), 트리그램(trigram)이 포함된다. 그는 NLTK와 스탠포드 파저(Stanford Parser)를 사용하여 파스트리(parse tree)를 생성하며, 스페이시를 사용하여 종속 트리를 생성하고 개체명 인식을 수행한다. 

사카르는 그의 예시 데이터 세트가 지도된 머신러닝이나 딥러닝 훈련을 위해 태그되지 않았기 때문에, 몇 가지 지도되지 않은 방법을 사용하여 정서 분석으로 넘어간다. 이후 기사에서, 사카르는 구글의 유니버설 센텐스 임베딩 모델에 접근하고 감성 분석을 위해 영화 평론 데이터 세트를 분석하는 데 전이학습을 수행하기 위해 텐서플로를 사용하는 것을 논의한다.

여러분이 이 기사들을 읽고 그것에 수반되는 주피터 노트북을 통해 작업하는 것을 이해하는 것처럼, 텍스트 분석에는 하나의 보편적인 모범 모델이나 알고리즘이 존재하지 않는다. 사카르는 자신의 데이터에 어떤 것이 가장 잘 작용하는지 보기 위해 끊임없이 여러 모델과 알고리즘을 시도한다. 

최근의 NLP용 딥러닝 기반 모델과 방법에 대한 리뷰를 읽어보려는 경우, 자신을 엘비스(Elvis)라고 부르는 AI 교육자가 작성한 기사를 추천한다.

자연어처리 서비스
당신은 아마존 웹 서비스, 마이크로소프트 애저, 구글 클라우드가 그들의 잘 알려진 음성 인식 및 언어 번역 서비스 외에도 한 종류 또는 다른 종류의 자연어처리 서비스를 제공하기를 기대했을 것이다. 물론 그들은 그렇게 하고 있다. 일반 NLP 모델뿐만 아니라 맞춤형 NLP 모델도 있다. 

아마존 컴프리헨드는 비정형 텍스트에서 주요 문구, 장소, 사람들의 이름, 브랜드, 이벤트, 정서를 추출하는 자연어처리 서비스다. 아마존 컴프리헨드는 미리 훈련된 딥러닝 모델을 사용하며 다소 일반적인 장소와 사물을 식별한다. 이 기능을 확장하여 좀 더 구체적인 언어를 식별하려면, 도메인별 엔티티를 식별하고 문서를 자신의 범주로 분류하도록 아마존 컴프리헨드의 사용자 정의를 설정할 수 있다.

마이크로소프트 애저는 여러 개의 NLP 서비스가 있다. 텍스트 애널리틱스는 텍스트 블록의 언어, 정서, 주요 구문 및 엔티티를 식별한다. 지원되는 능력은 언어에 따라 다르다.

마이크로소프트의 루이스(LUIS : Language Understanding)는 소셜 미디어 앱, 채팅봇, 음성 지원 데스크톱 애플리케이션을 위한 사용자 정의가 가능한 자연어 인터페이스다. 사전에 구축된 루이스 모델, 사전에 구축된 도메인별 모델 또는 머신러닝 또는 리터럴 엔티티(literal entity)가 있는 사용자 정의가 설정된 모델을 사용할 수 있다. API를 제작(authoring)하거나 루이스 포털을 사용하여 사용자 지정 루이스 모델을 구축할 수 있다.

좀 더 기술적인 측면에서 마이크로소프트는 애저 머신러닝 서비스를 사용하여 맞춤형 애플리케이션을 위한 버트(BERT) NLP 모델을 미세 조정하는 방법을 보여주는 페이퍼코드를 발표했다. 

구글 클라우드는 사전 교육을 받은 자연어 API와 사용자 정의가 가능한 오토머신러닝(AutoML) 자연어를 모두 제공한다. 자연어 API는 텍스트에서 구문, 엔티티, 정서를 찾아내고 텍스트를 사전 정의된 범주 집합으로 분류한다. 오토머신러닝 자연어에서는 심층 전이 학습을 사용하여 자신의 범주 집합에 대한 사용자 정의 분류기를 훈련할 수 있다. 

*Martin Heller는 <인포월드>의 객원기자이자 평론가다. 그는 웹 및 윈도우 프로그래밍 컨설턴트로 1986 년부터 2010년까지 데이터베이스, 소프트웨어, 웹 사이트를 개발했다. 최근에는 알파소프트웨어(Alpha Software)의 기술 및 교육 담당 부사장 겸 튜비파이(Tubifi)의 회장 겸 CEO로 재직했다. ciokr@idg.co.kr




2019.06.03

'생각보다 복잡' 자연어처리는 어떻게 작동하나

Martin Heller | InfoWorld


자연어처리업무
주요 NLP 업무에는 구글 번역에서 다루는 인공지능 번역의 문제 외에도 자동 요약, 대용어 해소(co-reference resolution) (특히 대명사의 경우 같은 대상을 가리키는 단어 구분), 개체명 인식(사람, 장소, 조직을 식별), 자연어 생성(정보를 읽을 수 있는 언어로 변환), 자연어 이해(텍스트 청크를 1차적 논리 구조와 같은 보다 공식적인 표현으로 변환), 부분 음성 태깅, 정서 분석(문자를 특정 대상에 대해 호의적이거나 그렇지 않은 것으로 분류), 음성 인식(오디오를 텍스트로 변환) 등이 포함된다. 

최신 세대의 신경망 기반 NLP 시스템은 때로는 중간 단계를 생략하는 것이 가능하기는 하지만, 주요 NLP 작업은 종종 하위 작업으로 분류된다. 예를 들어, 트랜스레이터트론(Translatotron)이라고 불리는 구글의 실험적인 음성 대 음성 변환기는 텍스트, 언어 번역, 그리고 텍스트 대 음성의 중간 단계 없이 음향 분석도에서 작동함으로써 스페인어를 직접 영어로 번역한다. 트렌스레이터트론은 아직 그렇게 정확하지는 않지만, 개념의 증거가 되기에는 충분하다.  

자연어처리기법
다른 머신러닝 문제들과 마찬가지로, NLP 문제는 대부분 모델링 데이터를 준비하기 위한 절차의 파이프라인으로 대체로 해결된다. DJ 사카르는 파이썬을 이용한 NLP에 대한 훌륭한 튜토리얼에서 다음과 같은 표준 워크플로우를 설명한다. 텍스트 전처리 -> 텍스트 구문 분석(parsing) 및 탐색 데이터 분석 -> 텍스트 표현 및 특질 공학(feature engineering) -> 모델링 및 패턴 마이닝 -> 평가 및 배치. 

사카르는 뷰티풀 수프(Beautiful Soup)를 사용하여 스크랩한 웹사이트에서 텍스트를 추출한 다음 NLTK(Natural Language Toolkit)스페이시(spaCy)를 사용하여 이를 토큰화, 어간 추출, 표제화 추출하는 것뿐 아니라 불용어(stopword)를 제거하고 축약된 말을 확장함으로써 텍스트를 사전 처리한다. 그리고 나서 그는 계속해서 NLTK와 스페이시를 사용하여 언어의 일부에 태그를 붙이고, 부분 구문분석(shallow parsing)을 수행하고, 태그를 붙이기 위해 엔그램(Ngram) 말뭉치를 추출한다. 엔그램에는 유니그램(Unigram), 바이그램(bigram), 트리그램(trigram)이 포함된다. 그는 NLTK와 스탠포드 파저(Stanford Parser)를 사용하여 파스트리(parse tree)를 생성하며, 스페이시를 사용하여 종속 트리를 생성하고 개체명 인식을 수행한다. 

사카르는 그의 예시 데이터 세트가 지도된 머신러닝이나 딥러닝 훈련을 위해 태그되지 않았기 때문에, 몇 가지 지도되지 않은 방법을 사용하여 정서 분석으로 넘어간다. 이후 기사에서, 사카르는 구글의 유니버설 센텐스 임베딩 모델에 접근하고 감성 분석을 위해 영화 평론 데이터 세트를 분석하는 데 전이학습을 수행하기 위해 텐서플로를 사용하는 것을 논의한다.

여러분이 이 기사들을 읽고 그것에 수반되는 주피터 노트북을 통해 작업하는 것을 이해하는 것처럼, 텍스트 분석에는 하나의 보편적인 모범 모델이나 알고리즘이 존재하지 않는다. 사카르는 자신의 데이터에 어떤 것이 가장 잘 작용하는지 보기 위해 끊임없이 여러 모델과 알고리즘을 시도한다. 

최근의 NLP용 딥러닝 기반 모델과 방법에 대한 리뷰를 읽어보려는 경우, 자신을 엘비스(Elvis)라고 부르는 AI 교육자가 작성한 기사를 추천한다.

자연어처리 서비스
당신은 아마존 웹 서비스, 마이크로소프트 애저, 구글 클라우드가 그들의 잘 알려진 음성 인식 및 언어 번역 서비스 외에도 한 종류 또는 다른 종류의 자연어처리 서비스를 제공하기를 기대했을 것이다. 물론 그들은 그렇게 하고 있다. 일반 NLP 모델뿐만 아니라 맞춤형 NLP 모델도 있다. 

아마존 컴프리헨드는 비정형 텍스트에서 주요 문구, 장소, 사람들의 이름, 브랜드, 이벤트, 정서를 추출하는 자연어처리 서비스다. 아마존 컴프리헨드는 미리 훈련된 딥러닝 모델을 사용하며 다소 일반적인 장소와 사물을 식별한다. 이 기능을 확장하여 좀 더 구체적인 언어를 식별하려면, 도메인별 엔티티를 식별하고 문서를 자신의 범주로 분류하도록 아마존 컴프리헨드의 사용자 정의를 설정할 수 있다.

마이크로소프트 애저는 여러 개의 NLP 서비스가 있다. 텍스트 애널리틱스는 텍스트 블록의 언어, 정서, 주요 구문 및 엔티티를 식별한다. 지원되는 능력은 언어에 따라 다르다.

마이크로소프트의 루이스(LUIS : Language Understanding)는 소셜 미디어 앱, 채팅봇, 음성 지원 데스크톱 애플리케이션을 위한 사용자 정의가 가능한 자연어 인터페이스다. 사전에 구축된 루이스 모델, 사전에 구축된 도메인별 모델 또는 머신러닝 또는 리터럴 엔티티(literal entity)가 있는 사용자 정의가 설정된 모델을 사용할 수 있다. API를 제작(authoring)하거나 루이스 포털을 사용하여 사용자 지정 루이스 모델을 구축할 수 있다.

좀 더 기술적인 측면에서 마이크로소프트는 애저 머신러닝 서비스를 사용하여 맞춤형 애플리케이션을 위한 버트(BERT) NLP 모델을 미세 조정하는 방법을 보여주는 페이퍼코드를 발표했다. 

구글 클라우드는 사전 교육을 받은 자연어 API와 사용자 정의가 가능한 오토머신러닝(AutoML) 자연어를 모두 제공한다. 자연어 API는 텍스트에서 구문, 엔티티, 정서를 찾아내고 텍스트를 사전 정의된 범주 집합으로 분류한다. 오토머신러닝 자연어에서는 심층 전이 학습을 사용하여 자신의 범주 집합에 대한 사용자 정의 분류기를 훈련할 수 있다. 

*Martin Heller는 <인포월드>의 객원기자이자 평론가다. 그는 웹 및 윈도우 프로그래밍 컨설턴트로 1986 년부터 2010년까지 데이터베이스, 소프트웨어, 웹 사이트를 개발했다. 최근에는 알파소프트웨어(Alpha Software)의 기술 및 교육 담당 부사장 겸 튜비파이(Tubifi)의 회장 겸 CEO로 재직했다. ciokr@idg.co.kr


X