Offcanvas

AI / 머신러닝|딥러닝 / 비즈니스|경제

기고ㅣ파일럿에서 프로덕션까지, ‘AI 프로젝트’ 시작하고 성공하는 법

2022.11.08 Isaac Sacolick  |  CIO
성과를 개선할 수 있는, 즉 비즈니스에 영향을 미치는 영역에서 성공을 거두려는 CIO라면 데이터 과학, ML, AI 프로젝트를 검토해야 한다. 

인도의 AI 프로젝트를 조사한 최근의 IDC 보고서에 따르면 AI 프로젝트의 30~49%가 기업의 약 3분의 1에서 실패했다. 또 딜로이트 보고서에 의하면 전체 응답자의 50%가 (소속 기업의) AI 성과를 ‘아직 시작하는 또는 저조한 상태’라고 지적했다. 한편 전체 응답자의 94%는 AI가 앞으로 5년 동안의 (비즈니스) 성공에 매우 중요하다고 말했다. 경영진은 AI를 통해 차별화할 기회를 보고 있으며, 성공적인 결과를 제공할 리더도 찾고 있는 것으로 조사됐다. 
 
ⓒGetty Images Bank

ML과 AI는 상대적으로 여전히 새로운 영역이며, (따라서) 리더들은 지속적인 학습과 성숙도 향상을 추진해야 한다. 여기서 CIO, CDO 및 수석 과학자가 파일럿부터 프로덕션까지 AI 프로젝트 진행을 개선하는 데 중요한 역할을 할 수 있다. 

데이터 과학팀이 성공을 위한 준비가 돼 있는가? 
데이터 과학팀을 위한 베스트 프랙티스 개발 플레이북은 ML 모델을 구축하고 테스트하는 개발 프로세스와 기술을 다룬다. 모델 구축은 쉬운 일이 아니며, 데이터 과학자는 데이터 정제 및 태그 지정, 알고리즘 선택, 모델 구성, 인프라 설정 및 결과 검증에 어려움을 겪고 있다. 

AI 딜리버리 성능을 향상하려는 리더는 우선 다음의 첫 번째 질문을 해결해야 한다. 데이터 과학자가 성공을 위해 준비됐는가? 의미 있는 비즈니스 결과를 도출할 문제를 해결하고 있는가? 머신러닝 플랫폼(예: 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise)), 인프라 액세스, 데이터 과학 관행을 개선하기 위한 지속적인 교육 시간이 있는가?

CIO와 CDO가 모델옵스(ModelOps)를 주도하고 라이프사이클을 감독해야 한다
데이터 과학팀이 모델 개발에 어려움을 겪는다면 리더는 이러한 문제를 검토하고 해결할 수 있어야 한다. 동시에 모델을 출시하고 성공을 보장하려면 (CIO와 CDO가) 모델 라이프사이클 또는 모델옵스를 설정해야 한다. 

라이프사이클은 모델 구축 이전에 시작되며, 여기서는 비즈니스 부문 리더의 역할을 교육해야 한다. 또 규모에 맞게 인프라를 계획하고, 컴플라이언스 및 거버넌스를 도입하며, 엣지 보안 전략을 세우고, 관련된 팀과 협력해야 한다. 고려해야 할 몇 가지 요소는 아래와 같다. 

(1) ML 프로젝트에서 비즈니스 리더의 역할을 교육하라. 비즈니스 리더가 현실적인 성공 기준과 위험도가 낮은 실험 영역을 정의했는가? 파일럿에 참여하고 피드백을 제공하는가? 머신러닝 기능으로 비즈니스 프로세스를 혁신할 준비가 됐는가? 아니면 첫 번째 과속 방지턱에서 투자를 늦출 것인가? 

(2) 모델을 개발할 때 구축, 구매, 파트너를 채택하라. 때로는 독점 모델을 개발하는 게 합리적일 수도 있지만 추천 엔진이나 음성 AI SDK 등의 프레임워크를 평가하는 게 나을 수도 있다. 

(3) 프로덕션 인프라 요건을 한 단계 앞서 생각하라. 모델을 개발하는 데 쓰는 실험실 인프라와 AI 기능을 시험하는 데 필요한 인프라는 최적의 프로덕션 인프라가 아닐 수 있다. 예를 들면 사람의 안전에 영향을 미치는 의료, 스마트 빌딩 및 산업 애플리케이션의 AI는 안정성과 성능을 보장하기 위해 엣지 또는 임베디드 컴퓨팅 옵션이 필요할 수 있다. 

(4) 엣지에서 대규모 AI 애플리케이션을 계획하라. 수천 개의 IoT 기기가 있다면 기기에서 실행할 AI 애플리케이션을 배포해야 할 수 있다. 이를테면 배송 트럭이나 건설 도구, 농기구 등을 탑재한 차량은 기기에 구축되는 AI 앱을 통해 작업자에게 생산성 및 안전을 개선하는 실시간 피드백을 제공할 수 있다. 기기에 앱을 배포하고, 통신을 지원하며, 모니터링 기능을 제공하는 엣지 관리 솔루션은 매우 중요하다. 

(5) ML옵스, 모델옵스 및 인프라 모니터링 기능을 설정하라. 데이터 과학팀은 프로덕션 경로를 자동화하기 위해 ML옵스가 필요하고, 컴플라이언스에는 모델옵스가 필요하며, 모델 드리프트를 해결하기 위해서는 모델 업데이트가 필요하다. 인프라 및 운영팀은 클라우드 인프라 비용, 성능, 안정성을 검토하는 데 도움이 되는 모니터링을 원할 것이다. 

IT팀은 애플리케이션만 배포하지 않는다. (IT팀은) 비즈니스 결과를 제공하기 위한 계획에 참여하고, 딜리버리 및 지속적인 개선을 위한 데브옵스를 도입한다. 데이터 과학, 머신러닝 및 AI에 비슷한 관행을 적용한다면 파일럿 및 프로덕션 딜리버리를 개선할 수 있을 것이다. 

* Isaac Sacolick은 인포월드의 기고자다. 그는 그리니치 어소시에이츠(Greenwich Associates), 맥그로힐 건설(McGraw Hill Construction), 비즈니스위크(BusinessWeek) 등에서 CIO를 맡아 비즈니스 혁신을 주도하는 리더십 역할을 수행한 바 있다. ciokr@idg.co.kr

 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.