‘휴먼 인 더 루프’(HITL) 머신러닝이란?

머신러닝이란 완벽하지 않은 경우가 많은 존재다. 대출 승인 분류 등 사람들의 삶에 영향을 미치는 목적에서 모델 예측을 사용할 때, 최소한 일부 예측을 사람이 검토하는 것이 좋다. 신뢰도가 낮고, 범위에 벗어나고, 품질 관리 측면에서 선택한 임의의 표본 같은 경우라면 특히 그렇다.
 

또한, 좋은 태그(주석) 데이터가 없을 때 지도형(Supervised) 러닝의 부트스트랩이 어려워지는 경우가 많다(우스개 소리로 대학원생이 있는 교수가 아니라면). 태깅하지 않은 데이터에서 반지도형(Semi-supervised) 러닝을 구현하는 한 가지 방법은 사람이 모델을 시드하기 위해 일부 데이터를 태깅하고, 잠정 모델(또는 트랜스퍼-러닝 모델)에서 높은 신뢰도의 예측을 적용해 더 많은 데이터를 태깅하고(자동 라벨링), 낮은 신뢰도의 예측은 사람이 검토하는 것이다(액티브 러닝). 이런 프로세스를 반복할 수 있으며, 통과될 때마다 개선되는 경향이 있다.

간단히 말하면, HITL(human-in-the-loop) 머신러닝은 머신러닝 모델 트레이닝에 사용되는 데이터의 품질을 개선하는 데 사람의 피드백을 이용한다. 일반적으로 HITL 머신러닝은 사람이 라벨링(주석)을 하기 좋은 데이터 표본을 수집하는 과정이 수반된다. 이 데이터를 이용해 모델을 트레이닝하고, 이 모델을 사용해 주석을 적용할 더 많은 데이터 표본을 수집한다. 이런 프로세스 관리에 도움을 주는 서비스들이 많다.

아마존 세이즈메이커 그라운드 트루스(Amazon SageMaker Ground Truth)
아마존 세이즈메이커는 2종의 데이터 라벨링 서비스로 구성된다. 아마존 세이즈메이커 그라운드 트루스 플러스와 아마존 세이즈메이커 그라운드 트루스이다. 두 서비스 모두 이미지와 텍스트 파일, 비디오 같은 로우 데이터 분류에 도움을 준다. 

또 머신러닝 모델에 사용할 고품질의 트레이닝 데이터세트를 만들기 위해 정보가 포함된 라벨을 적용할 수 있다. 그라운드 트루스 플러스의 경우, 아마존 전문가가 고객을 대신해 데이터 라벨링 워크플로우를 구성한다. 이 프로세스에는 프리-러닝과 사람 라벨링에 대한 머신 검증이 적용된다.

아마존 증강 AI(Amazon Augmented AI)
아마존 세이즈메이커 그라운드 트루스는 최초 데이터 라벨링을 처리하는 반면, 아마존 증강 AI(Amazon A2I)의 경우 배포된 모델에서 신뢰도가 낮은 예측치, 또는 임의의 예측치 표본을 사람이 검토한다. 증강 AI는 검토 워크플로우 생성과 사람인 리뷰어를 관리한다. 아마존 세이즈메이커 엔드포인트에 배포된 모델에 더해, AWS AI 및 머신러닝 서비스와  통합된다.

데이터로봇 HITL(DataRobot human-in-the-loop)
데이터로봇은 험블 AI(Humble AI) 기능을 제공하고 있다. 이는 불확실한 예측치, 이례적인 인풋, 낮은 관찰 영역을 감지하는 규칙을 설정할 수 있는 기능이다. 이러한 규칙은 3가지 작업을 트리거 할 수 있다. 작업 없음(감시만), 예측치 번복(일반적으로 ‘safe’ 값으로), 오류 반환(예측치 폐기)이 여기에 해당된다. 데이터로봇은 HITL에 대한 여러 논문들을 작성하기도 했다. 애석하게도 회사 웹사이트에서 휴밀리티 규칙 외에 다른 것들은 찾을 수 없었다.

구글 클라우드 HITL
구글 클라우드는 도큐먼트 AI 서비스와 통합된 HITL 프로세싱을 제공한다. 그러나 이 글을 쓰는 시점에서 이미지나 비디오 프로세싱과 관련된 프로세싱은 없다. 현재 구글은 다음 프로세스에 대한 HITL 리뷰 워크플로우를 지원한다.

조달 프로세서:
•    송장
•    영수증

대출 프로세서:
•    1003 파서(Parser)
•    1040 파서
•    1040 스케줄 C 파서
•    1040 스케줄 E 파서
•    1099-DIV 파서
•    1099-G 파서
•    1099-INT 파서
•    1099-MISC 파서
•    은행 거래 내역 파서
•    HOA 거래 내역 파서
•    부동산 담보 대출 내역 파서
•    급여 명세서 파서
•    은퇴/투자 관련 내역서 파서
•    W2 파서
•    W9 파서

HITL 소프트웨어
사람의 이미지 주석, 개체 감지, 시멘틱 분류 등은 데이터세트 라벨링에 대한 설정이 어려울 수 있다. 다행히 태그를 하는 사람들이 이용할 수 있는 좋은 오픈소스 및 상용 도구들이 많다.

스스로를 “AI 산업에 힘을 실어주는 윤리적인 HTL 워크포스 솔루션을 제공하는 사회적 기업”으로 소개하는 휴먼 인 더 루프(Humans in the Loop)는 좋아하는 주석 도구에 대해 정기적으로 블로그 게시글을 올리고 있다. 

최근의 블로그 게시글은 컴퓨터 비전용 오픈소스 주석 도구 10가지를 제시하고 있다. Label Studio, Diffgram, LabelImg, CVAT, ImageTagger, LabelMe, VIA, Make Sense, COCO Annotator, DataTurks가 여기에 해당된다. 이런 도구들은 대부분 최초 트레이닝 세트 주석에 사용되며, 일부는 주석자로 구성된 팀 관리에 사용할 수 있다.

이런 주석 도구 가운데 하나인 CVAT(Computer Vision Annotation Tool)는 강력한 최신 기능과 기능들을 갖추고 있으며, 크롬에서 실행된다. 우리는 물론 우리 고객들이 라벨링에 이용하는 주 도구들 가운데 하나이다. 시장에 출시된 대부분 도구보다 훨씬 빠른 도구이기 때문이다.

깃허브의 CVAT README는 “CVAT는 컴퓨터 비전을 위한 무료, 온라인, 인터랙티브 비디오 및 이미지 주석 도구”라고 설명하고 있다. 필자의 팀은 속성이 다른 수백 만 개체 주석에 사용한다. 전문 데이터 주석 팀의 피드백을 토대로 UI와 UX에 대한 결정이 내려지는 경우가 많다. cvat.org에서 온라인으로 체험할 수 있다. 데모를 실행하려면 계정을 생성해 로그인해야 한다.

CVAT는 MIT 라이선스의 적용을 받는 오픈소스 도구로 출시됐다. 활발히 활동하는 기여자 대부분은 러시아 니즈니노브고로드에 소재한 인텔 조직 소속이다. 태깅 프로세스 작동 과정은 CVAT 소개 비디오를 참조한다.



설명한 내용처럼, HITL 프로세싱은 2가지 경우에서 머신러닝 프로세스에 도움을 준다. 지도학습을 위해 처음 태깅한 데이터세트를 생성할 때, 그리고 모델을 실행할 때 문제가 발생할 수 있는 예측치를 검토 및 수정할 때이다. 첫 번째 사용 사례는 모델 부트스트랩, 두 번째는 모델 튜닝에 도움을 준다.

* 인포월드 기고 편집자이자 리뷰어인 Martin Heller는 웹 및 윈도우 프로그래밍 컨설턴트 경력을 보유자다. 1986년부터 2010년까지는 데이터베이스, 소프트웨어, 웹사이트 개발자로 일했으며 그 이후에는 알파 소프트웨어의 기술 및 교육 부사장, 튜브파이의 의장이자 CEO를 역임했다. ciokr@idg.co.kr