Offcanvas

AI / 개발자 / 머신러닝|딥러닝 / 오픈소스

"AI 예측 불확실성 개선"··· IBM, 파이썬 툴킷 출시

2021.06.08 Paul Krill  |  InfoWorld
IBM의 ‘Uncertainty Qualification 360’은 머신러닝 모델의 불확실성을 정량화하고 평가하며 전달하는 데 필요한 파이썬 오픈소스 라이브러리다.

IBM이 Uncertainty Qualification 360 혹은 ‘UQ360’이라는 이름의 파이썬 오픈소스 라이브러리를 개발했다. 개발자와 데이터 과학자를 대상으로 머신러닝의 예측 불확실성을 정량화하는 알고리즘을 제공해 머신러닝 모델의 투명성과 AI 신뢰도를 개선하기 위한 목적이다. 
 
ⓒGetty Images Bank

UQ360은 IBM 리서치에서 이용 가능하며, 딥러닝 기반 AI 시스템의 과잉 확신으로 발생하는 문제 해결을 목표로 한다. 이 파이썬 툴킷을 사용하면 예측 모델의 불확실성을 정량화하고, 평가하고, 개선하고, 전달하는 프로세스를 간소화하는 알고리즘을 쓸 수 있다.

현재 UQ360 툴킷은 여러 유형의 불확실성을 측정할 수 있는 11개의 알고리즘을 제공한다. 또한 IBM은 UQ 알고리즘과 척도를 선택할 때 참고할 수 있는 가이드도 지원한다. 

IBM은 AI 시스템의 과잉 확신으로 심각한 결과가 초래될 수 있다고 강조했다. 가령 AI 챗봇이 약국의 영업 종료 시간을 확실히 모르는데도, 모른다고 답하는 게 아니라 과도한 확신을 갖고서 틀린 답을 말해버리는 사례를 들 수 있다. 만약 약을 빠르게 처방받아야 하는 패혈증 환자라면 이로 인해 죽음에 이를 수 있다.

UQ는 예측 모델의 한계와 잠재적 실패 지점을 보여줌으로써 AI가 모르는 것은 모른다고 답할 수 있도록 하고자 한다. 궁극적으로 이를 통해 AI를 배포하는 데 있어 안전성을 높인다는 게 회사 측 설명이다.

한편 IBM은 이전에도 AI의 신뢰도 증진을 위해 여러 제품을 내놨다. ▲ 머신러닝 모델의 편향성을 완화해주는 AI Fairness 360 툴킷, ▲ 머신러닝 보안을 위한 파이썬 라이브러리인 Adversarial Robustness 툴박스, ▲ 머신러닝의 레이블 예측을 이해할 수 있도록 지원하는 AI Explainability 360 툴킷 등이다. ciokr@idg.co.kr

 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.