Offcanvas

AI / 머신러닝|딥러닝 / 클라우드

왓슨 구원투수 될까?··· IBM AI 전략 중심에 서있는 ‘왓슨X닷거버넌스’

2024.05.14 Anirban Ghoshal  |  CIO
AI 규제가 늘어남에 따라 IT 리더는 AI 모델의 안전성과 무결성을 높이는 데 관심을 보이고 있다. IBM은 그런 수요를 공략하며 감사 기능을 갖춘 왓슨X닷거버넌스를 적극 내세우고 있다.
 
ⓒ IBM

IBM이 최근 왓슨X닷거버넌스라는 생성형 AI 및 머신러닝 모델 모니터링 도구를 기반으로 AI 고객을 공략하고 있다. IBM 데이터 및 AI 소프트웨어 사업부의 제품 관리 책임자 헤더 젠틸레는 왓슨X 플랫폼의 하나로 출시된 왓슨X닷거버넌스는 ‘감사 추적(audit trail)’이라는 차별화된 기능이 있다고 설명했다. 감사 추적이란 감사를 위해 입력된 데이터가 어떤 변환 과정을 거쳐 출력되는지 해당 과정을 기록하여 추적하는 활동이다.

감사 추적 기능을 통해 고객은 특정 모델의 선택 근거나 모델 라이프사이클에 어떤 이해관계자가 관여했는지 등 모델 라이프사이클 전반에 걸쳐 세부 사항을 기록하는 저장소를 만들 수 있다. 젠틸레는 감사 추적 기능이 없거나 실시간 모니터링 서비스를 제공하지 않는 경쟁 솔루션에 비해 왓슨X닷거버넌스가 보다 ‘통합적인 접근 방식이자 솔루션’을 제공한다고 설명했다.
 
왓슨X닷거버넌스란 무엇인가
왓슨X닷거버넌스는 생성형 AI 및 머신러닝 모델을 관리하기 위한 도구다. 특히 컴플라이언스, 위험 관리, 모델 수명 주기 관리라는 세 가지 핵심 영역을 문서화 해준다. 모델 라이프사이클 관리의 초기 단계부터 포함하여 모델 채택 프로세스 내 변경 과정과 지표를 문서로 저장되는 식이다.

여기에 왓슨X닷거버넌스는 고객의 거버넌스 정책 외 참고할 수 있는 IBM이 전사적으로 추진하는 모범 사례 워크플로우 정보를 함께 제공한다.

젠틸레는 “IBM은 기업의 모범 사례를 기본 제공하면서 부서나 직급에 상관없이 이해 관계자가 AI 사용 사례를 만들 수 있게 돕고 있다. 이해관계자는 해당 작업 또는 사용 사례에 대한 특정 모델을 채택하는 과정에서 필요한 특정 정보만 제출하면 된다”라고 설명했다.

왓슨X닷거버넌스는 또한 기업의 AI 사용 및 거버넌스 정책을 기반으로 위험 분석을 수행하여 특정 사용 사례에 맞는 모니터링 유형을 제안한다. 위험 분석 후에 고객은 모델을 비교하며 당면한 사용 사례에 가장 적합한 모델을 확인할 수 있다.

젠틸레는 “IBM은 이러한 모델의 성능 정보를 팩트 시트(fact sheets, 제품, 물질, 서비스 또는 기타 주제에 대한 필수 정보가 포함된 단일 페이지 문서)에 정리해놓는다. 기업이 비교하는 각 모델의 기준선을 설정하고 사용 사례를 지원하기 위해 어떤 모델을 선택했는지에 대한 감사 추적도 생성한다”라며 “감사 추적은 모델 도입 시작 단계부터 진행된다”라고 설명했다.

IBM에 따르면 감사 추적을 활용하면, 고객은 모델 배포 후 생성된 정보를 파악하고, 실시간으로 변경 사항을 추적할 수 있다. 그 외에도 왓슨X닷거버넌스는 모델에 문제가 생기거나 성능이 좋지 않거나 업데이트가 필요한 경우 기록해놓고 고객에게 해당 정보를 따로 알려준다.

AI 감사가 중요한 이유는?
젠틸레는 최근 모델 감사를 의무화하려는 AI 규제가 강화되고 있는 상황이기에, 감사 추적 기능이 왓슨X닷거버넌스에 차별점을 제공하고 있다고 설명했다.

미국, 영국, EU, 인도 등 주요 국가에서는 이미 대규모 언어 모델(LLM)의 안전성을 보장하기 위한 규정과 가이드라인을 마련하고 있다. 예를 들어, 지난 4월 미국과 영국은 LLM 평가 기술을 개발하기 위해 긴밀히 협력하기로 합의했다.

또한 EU 당국은 AI를 규율하는 포괄적인 법률, 일명 ‘AI 법’ 최종 승인하기 위한 작업에 착수했다. EU 당국은 ‘인공지능(AI) 시스템의 유해한 영향으로부터 건강, 안전, 기본권, 환경 보호를 위한 높은 수준의 보호를 보장하면서 인간 중심적이고 신뢰할 수 있는 AI의 채택을 촉진하는 것’을 AI법의 목표라고 명시했다.
 
이를 위해 IBM은 왓슨X닷거버넌스에 EU 규제에 맞는 AI 위험 평가 기능을 개발해 EU AI법 준수에 있어 부족한 부분을 파악하고, 보완할 방안을 제시하고 있다고 젠틸레 부사장은 말했다.

IBM은 동일한 프레임워크를 사용하여 미국, 영국, 인도를 포함한 다른 국가의 규제 요건을 왓슨X닷거버넌스에 통합할 계획이다. 젠틸레에 따르면, 모델이 규정을 지속적으로 준수하는지 확인하기 위한 모니터링 기능도 제공된다.

왓슨X닷거버넌스를 통한 IBM의 전략은?
왓슨X는 왓슨닷XAI, 왓슨X닷데이터, 왓슨X닷거버넌스로 구성돼있다. IBM은 왓슨X닷거버넌스를 별도의 상품으로 판매할 계획이다. 젠틸레는 “우리의 주요 로드맵 이니셔티브는 모든 곳에 인공지능을 적용하는 것”이라며 “왓슨X닷거버넌스를 구현하거나 통합하려는 고객은 현재 기술을 처음부터 뜯어고치거나 교체할 필요가 없다. 모든 플랫폼이나 프레임워크에서 어떤 모델에든 접근할 수 있다”라고 말했다.

젠틸레는 “우리는 온프레미스, 퍼블릭 및 프라이빗 클라우드가 포함되는 모든 서드파티 또는 오픈소스 모델을 관리할 수 있다”라며 “자체 SDK와 API로 간편하게 작업할 수 있다”라고 설명했다. 왓슨X닷거버넌스를 지원하는 플랫폼에는 아마존 세이지메이커, 아마존 베드록, 구글 버텍스, 마이크로소프트 애저 등이 있다.

컨설팅 기업 더퓨처럼그룹의 애널리스트 키스 커크패트릭와 리서치 기업 로페즈 리서치의 마리벨 로페즈는 왓슨X닷거버넌스에 집중하는 전략으로 IBM은 기업 고객을 더욱 유치할 수 있을 것으로 분석했다.

로페즈는 “통합 클라우드 기반 AI 거버넌스 전략이 늘면서 CIO 및 IT 관리자에게 IBM 기술은 매력적으로 다가올 것이다. 서로 다른 복수개의 클라우드 서비스를 쓰는 경우가 늘고 있기 때문이다”라며 “물론 고객은 여전히 거버넌스를 위해 기존 클라우드 공급업체를 찾을 것이다. 경우에 따라 IBM은 타 서비스에서 쓸 수 있는 감사 기능을 제공하여 다른 클라우드 서비스의 거버넌스가 서로 같은 수준인지 확인하는 기능을 제공할 수 있다”라고 설명했다.

로페즈와 커크패트릭는 또한 거버넌스에 대처하려는 수요가 IBM에게 구매자와 지속적으로 소통하는 계기를 마련해줄 것으로 분석했다.

로페즈는 IBM이 거버넌스에 초점을 맞추고 왓슨X닷거버넌스 제품이 원하는 기능만 분리해서 쓸 수 있는 소위 ‘모듈성’을 가지고 있기에 다른 벤더사보다 우위를 점하고 있다고 설명했다. 로페즈는 ”이러한 유연성 덕분에 IBM은 타 클라우드 서비스로 사용하고 있는 고객에게도 제품을 판매할 기회를 얻고 있다”라고 말했다.

디지털 서비스 전문 업체 웨스트먼로의 이사 에릭 존슨도 로페즈 의견에 동의하며 “IBM의 왓슨X닷거버넌스를 자사 클라우드를 이용하지 않은 업체에 ‘자유롭게’ 이용할 수 있게 열어둔 덕에 시장 우위를 점하고 있다”라고 설명했다.

왓슨X닷거버넌스는 일반적으로 무료 평가판과 개인 및 개념 증명을 위한 에센셜 티어의 두 가지 계층으로 제공되며, 가격은 리소스 유닛당 0.60달러다. 엔터프라이즈/프로덕션 티어는 향후 출시될 예정이다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.