Offcanvas

������ ������������

“상용화되는 모델은 13%에 그쳐”··· ‘NLP 모델’을 운영환경에 안전하게 투입하는 법

‘자연어 처리(Natural Language Processing; NLP)’ 모델을 프로덕션 환경에 투입하는 건 차를 구매하는 것과 비슷하다. 원하는 결과에 대한 매개변수를 설정하고, 몇 가지 접근 방식을 테스트 및 반복한다. 그다음 (비유하자면) 차를 몰고 나가는 순간 그 가치가 급락하기 시작한다. 자동차와 마찬가지로, NLP 또는 AI 기반 제품을 사용하면 많은 이점을 누릴 수 있지만 (적어도 계속해서 제대로 쓰려면) 유지관리를 멈춰서는 안 된다.  AI 모델을 만들어 내기도 어렵지만 프로덕션 환경에서 모델의 정확성을 확보하는 것 또한 어렵다. 모델의 정확성은 시장에 출시되는 순간 저하된다. 실제 운영 환경은 (모델이) 학습한 환경과 다르기 때문이다. 고속도로와 도로 주행 연습 장소가 다른 것과 같다. 이를 변수가 바뀌면 학습한 개념도 더 이상 정확하지 않을 수 있음을 의미하는 ‘개념 드리프트(concept drift)’라고 하며, 이는 AI 및 ML 분야에서 새로운 것은 아니지만 사용자들에게는 계속해서 문제가 되고 있다.    벤처비트(VentureBeat)에 따르면 최근 몇 년간 AI 및 NLP에 막대한 투자가 이뤄졌음에도 불구하고 실제 프로덕션 환경으로 전환되는 데이터 과학 프로젝트는 13%에 불과하다. 그 이유에는 개념 드리프트도 한몫한다.  그렇다면 제품을 프로젝트 단계에서 프로덕션 환경으로 안전하게 옮기려면 어떻게 해야 할까? 프로덕션 환경에서 (모델의) 정확성을 유지하기 위해서는 어떻게 해야 할까?  AI 모델을 프로덕션 환경에 투입하기 모델 거버넌스는 NLP 이니셔티브의 핵심 구성요소이자, 많은 제품이 프로젝트 단계에 머무르게 되는 이유이기도 하다. 이는 기업들이 특정 프로덕션 환경에서 모델의 활동, 액세스, 동작을 추적하는 방법을 다룬다. 위험을 완화하고, 문제를 해결하며, 컴플라이언스를 유지하려면 이를 모니터링해야 한다.  이 개념은 전 세계 AI 업계에 잘 알려진 문제이기...

인공지능 AI 자연어 처리 NLP 데이터 과학 개념 드리프트

2021.12.31

‘자연어 처리(Natural Language Processing; NLP)’ 모델을 프로덕션 환경에 투입하는 건 차를 구매하는 것과 비슷하다. 원하는 결과에 대한 매개변수를 설정하고, 몇 가지 접근 방식을 테스트 및 반복한다. 그다음 (비유하자면) 차를 몰고 나가는 순간 그 가치가 급락하기 시작한다. 자동차와 마찬가지로, NLP 또는 AI 기반 제품을 사용하면 많은 이점을 누릴 수 있지만 (적어도 계속해서 제대로 쓰려면) 유지관리를 멈춰서는 안 된다.  AI 모델을 만들어 내기도 어렵지만 프로덕션 환경에서 모델의 정확성을 확보하는 것 또한 어렵다. 모델의 정확성은 시장에 출시되는 순간 저하된다. 실제 운영 환경은 (모델이) 학습한 환경과 다르기 때문이다. 고속도로와 도로 주행 연습 장소가 다른 것과 같다. 이를 변수가 바뀌면 학습한 개념도 더 이상 정확하지 않을 수 있음을 의미하는 ‘개념 드리프트(concept drift)’라고 하며, 이는 AI 및 ML 분야에서 새로운 것은 아니지만 사용자들에게는 계속해서 문제가 되고 있다.    벤처비트(VentureBeat)에 따르면 최근 몇 년간 AI 및 NLP에 막대한 투자가 이뤄졌음에도 불구하고 실제 프로덕션 환경으로 전환되는 데이터 과학 프로젝트는 13%에 불과하다. 그 이유에는 개념 드리프트도 한몫한다.  그렇다면 제품을 프로젝트 단계에서 프로덕션 환경으로 안전하게 옮기려면 어떻게 해야 할까? 프로덕션 환경에서 (모델의) 정확성을 유지하기 위해서는 어떻게 해야 할까?  AI 모델을 프로덕션 환경에 투입하기 모델 거버넌스는 NLP 이니셔티브의 핵심 구성요소이자, 많은 제품이 프로젝트 단계에 머무르게 되는 이유이기도 하다. 이는 기업들이 특정 프로덕션 환경에서 모델의 활동, 액세스, 동작을 추적하는 방법을 다룬다. 위험을 완화하고, 문제를 해결하며, 컴플라이언스를 유지하려면 이를 모니터링해야 한다.  이 개념은 전 세계 AI 업계에 잘 알려진 문제이기...

2021.12.31

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.31