MS 애저 머신러닝 리뷰 : 기대되는 전문가용 머신러닝 서비스

머신러닝(Machine Learning)은 빅데이터를 처리하는 클라우드 서비스를 보완하는 역할을 한다. 수 많은 가측치(observables)를 수집하는 중요한 이유 중 하나는 비즈니스의 이익과 관련된 다른 가치를 예상하기 위해서이다. 예를 들어, 익명화된 신용 카드 트랜잭션을 다수 수집하는데, 새 트랜잭션이 유효한지, 부당한지 확률과 함께 예측하기 위해서이다.

이런 점을 감안하면, 대규모 AI 연구 부서를 운영하고 있는 마이크로소프트가 애저 클라우드에 머신러닝 기능을 추가시킨 것은 당연하다고 할 수 있다. 연구원들에서 비롯된 기술이기 때문에, 상용 제품은 통계와 데이터가 약한 사람들에게 필요한 종합적인 모델과 알고리즘을 제공할 것이다. 또 코타나 애널리틱스 스위트(Cortana Analytics Suite)의 일부인 애저 머신러닝은 모델에 대한 트레이닝을 줄이고, 드래그 앤 드롭으로 평가를 할 수 있는 파이프라인을 보유하고 있으며, 사용자가 자신의 파이썬이나 R 모듈을 데이터 파이프라인에 추가할 수 있다.

선택할 수 있는 기능과 솔루션 알고리즘의 경우, 애저 머신러닝은 사용자가 원하는 도구 모두를 준다는 점에서 데이터브릭스(Databricks) 및 IBM SPSS 모델러와 유사하다. 데이터 과학자에게는 완벽할 수 있지만, 비즈니스 애널리스트에게는 혼란을 초래할 것이 분명하다. 데이터 과학자가 아닌 제품 재고량을 파악하기 위해 다음 달 매출을 예상해야 하는 사람의 경우, 클래스 별로 하나의 입증된 알고리즘만 제공하는 마아존 머신 러닝이 훨씬 나을 수도 있다.

학습 프로세스
마이크로소프트는 즉시 이용할 수 있는 5단계로 구성된 인터랙티브 투어로 애저 머신러닝을 소개하고 있다. 투어에서 애저 머신러닝은 공개 인구 통계 데이터로 빠르게 머신러닝 모델을 만들고, 파라미터를 예상치로 바꿔주는 웹 서비스를 생성한다.

그러나 실제로는 그 이상이 존재한다. 모델의 기원? 모델을 선택한 방식은? 적용해야 할 데이터 변환은? 잉여값은? 다른 모델과의 비교 방식은? 이에 대해서는 말해주지 않는다.

개인 경험에 비추어보면, 데이터 분석과 데이터 과학에 중심이 되는 사안은 가장 깨끗한 데이터와 최상의 모델을 찾는 것이다. 그리고 머신러닝으로 데이터 모델을 만드는 것은 재미있는 부분이다. 필자는 통상 데이터 기획과 간단한 탐색 통계 작업을 출발점으로 삼는다. 그리고 데이터를 적용, 부합하는 모델과 데이터 변환 방식을 찾는다. 인터랙티브 투어는 이런 단계들을 다루지 않는다. 또 애저 머신러닝 스튜디오(Azure Machine Learning Studio)는 이런 기능들을 지원하지 않는 것으로 보인다.


CAP는 세 가지 주요 단계를 포함한다. 비즈니스와 데이터의 이해, 모델링, 그리고 프로덕션이다.

그러나 애저 머신러닝에 어느 정도 통합되어 있는 아나콘다 파이썬(Anaconda Python), 주피터 노트북(Jupyter Notebooks, 과거 IPython Notebooks), R 서버에 탐색 데이터 분석 기능이 존재한다. 애저 머신러닝 스튜디오만으로 필요한 것을 처리할 수 있을지 모른다. 아니면 각자의 용도에 맞게 마이크로소프트 데이터 사이언스 버추얼 머신(Microsoft Data Science Virtual Machine)을 프로비저닝 해야 할 수도 있다.

마이크로소프트의 데이터 과학 연구원들은 머신러닝이 데이터 과학이라는 퍼즐의 한 조각에 불과하다는 사실을 잘 이해하고 있다. 이제 마이크로소프트의 음성 기반 개인 비서 기능과 연동되고, 더 폭넓은 영역을 강조할 수 있도록 새롭게 포장된 코타나 애널리틱스 스위트에는 CAP(Cortana Analytics Process)를 이용해 데이터 과학에 도움을 주는 여러 도구가 포함되어 있다. 이는 머신러닝에만 국한되지 않는다.

애저 머신러닝 스튜디오
데이터 세트 가져오기, 시험 모델 트레이닝 및 발행, 주피터 노트북스에서의 데이터 처리, 트레이닝한 모델 저장 기능이 포함된 애저 머신러닝 스튜디오를 출발점으로 삼아야 할 수 있다.

애저 머신러닝 스튜디오는 수십 종의 표본 데이터 세트, 다섯 종의 데이터 형식 변환, 몇 가지 데이터 읽기 및 쓰기, 수십 가지 데이터 변환, 세 가지 기능 선택 방식 등으로 구성되어 있다. 사용자는 애저 머신러닝에서 이례 감지, 분류, 클러스터링, 회귀에 여러 모델을 이용할 수 있다. 또 4가지의 모델 점수 계산, 3가지의 모델 평가, 6가지의 트레이닝 모델을 이용할 수 있다. 또 몇 종의 OpenCV 모듈, 파이썬 및 R 언어 모듈, 통계 함수, 텍스트 분석을 이용할 수 있다.

비즈니스와 데이터, 모델을 이해할 경우, 이론적으로 모델에 상관 없이 모든 데이터를 처리하기에 충분한 기능이다. 애저 머신러닝 스튜디오 모듈이 원하는 것을 처리하지 못할 경우, 파이톤이나 R 모듈을 개발할 수 있다.


애저 머신러닝 스튜디오는 학습된 모델를 퍼블리싱하는 웹 서비스를 생성하는 작업을 신속하게 처리한다. 이 단순한 모델은 애저 머신러닝으로의 다섯 단계 소개에서 나온 것이다.

처음에는 분명해 보이지 않을 수 있지만, 이를 지원한다. 주피터 노트북을 이용해 파이썬 2 및 파이썬 3 언어 모듈을 개발해 테스트할 수 있다. 그리고 애저 머신러닝 파이썬 클라이언트 라이브러리(애저에 저장한 데이터를 지원하기 위해), scikit-learn, matplotlib, NumPy로 확장한다. 애저 주피터 노트북은 R 또한 지원할 전망이다. 지금은 로컬 환경에서 RStudio를 이용, 나중에 필요할 경우 애저용으로 입력과 출력을 바꾸거나, 마이크로소프트 데이터 사이언스 VM에 RStudio를 설치할 수 있다.

애저 머신러닝 스튜디오에서 새 테스트를 할 경우, 처음부터 시작하거나 많이 쓰는 모델 대부분을 포괄하는 약 70종의 마이크로소프트 샘플을 선택할 수 있다. 또 코타나 갤러리에는 커뮤니티에서 생성된 콘텐츠가 있다.

프로젝트 옥스포드(Project Oxford)는 비전, 스피치, 언어 분야의 프리뷰급 ML/AI API 10종이 포함된 콘텐츠이다. 물론 보유한 데이터 종류와 목표에 따라 유용함이 결정된다.


주피터 노트북애저 머신러닝 스튜디오에서 사용하도록 개선됐다. 화면에서 보는 것처럼 애저 머신러닝 주피터 노트북용 문서화는 주피터 노트북 형식이다.

코타나 애널리틱스 프로세스
필자는 앞서 코타나 애널리틱스 프로세스(Cortana Analytics Process, CAP)를 언급했었다. CAP 링크를 따라가면, 다음 그림에서 제시된 인터랙티브 가이드를 찾을 수 있다. 프로세스는 계획과 설정 단계부터 시작된다. 비즈니스 문제, 데이터, 애저 머신러닝에 친숙한 데이터 과학자, 프로젝트에 필요한 CAP 환경을 구현한 사람이 아니라면 아주 중요한 단계이다. 애저 스토리지 계정, 마이크로소프트 데이터 사이언스 VM, HDInsight(하둡) 클러스터, 애저 머신러닝 스튜디오의 머신러닝 작업공간 등이 CAP 환경이 될 수 있다. 선택지가 많아 혼동을 초래할 수 있다. 마이크로소프트는 이에 각각을 선택할 때 참고할 기준을 문서로 소개하고 있다.