2020.07.08

“AI 활용에 안전판 필요했다”··· HSBC가 ‘코텍스 서티피아이’를 도입한 이유

Clint Boulton | CIO
규제가 심한 산업의 기업들의 경우 인공지능(AI) 기술을 시도하면서 ‘블랙박스’ 문제에 직면하는 경우가 종종 있다. 업무들을 자동화했을 때 설명할 수 없는 결과가 나오는 문제이다.

특히 은행을 비롯한 금융기관들은 부정 행위 감지부터 자산 추적, 출처 등 다양한 용도로 머신러닝(ML) 모델과 AI 소프트웨어를 이용할 때 투명성과 해석 용이성을 다루느라 애를 먹고 있다. HSBC도 이런 금융 기관 중 하나이다. 

그러나 HSBC에게는 솔루션이 하나 있다. 편향과 데이터 드리프트, 기타 비즈니스에 위험을 초래하는 문제들이 발생할 수 있는 알고리즘을 신뢰할 수 있는 상태로 만드는 데 도움을 주는 소프트웨어 하나가 그것이다.
 
Image Credit : Getty Images Bank

HSBC의 가빈 먼로 CIO는 이런 노력이 코로나바이러스 팬데믹 위기를 맞아 디지털 서비스를 이용하는 소비자들이 증가하고 있는 시기에 신뢰성을 강화하는 중요한 역할을 한다고 설명했다. 

먼로는 CIO닷컴에 “모델에 있는 것과 AI에 있는 것을 균형 있게 제시해야 한다. 우리가 이용하고 있는 것, 우리에게 필요한 품질, 계통, 가장 정확한 데이터를 갖고 있다는 점을 설명해야 한다. 신뢰가 없는 환경에서는 일을 할 수 없기 때문이다”라고 말했다.
 
금융기관들이 AI를 주저하는 이유
금융기관들은 AI가 운영을 자동화 및 강화하고, 고객 자산을 보호하는 일에 도움을 준다는 점을 잘 알고 있다. 그러나 해석이 불가능하고, 알고리즘이 규제 당국과 감사 위원회, 소비자의 교구에 부합한다는 것을 설명할 수 없는 경우, 이 기술을 도입하기 주저한다. 잘못된 정보의 캠페인이 퍼져 나갔던 문제, 얼굴 인식 기술의 인종적 편견 문제 등을 유발한 알고리즘 때문에 AI에 대한 불신이 높아졌다.

규제 당국의 감시를 받고 있는 금융서비스 산업의 기업들은 비즈니스를 강화하기 위해 사용하는 기술에 조심스럽게 접근하는 경향이 있다. 이를테면 편향이나 편견 때문에 자격이 있는 사람이 대출을 못 받는 문제 등이 발생할 수 있기 때문이다.

가트너 조사에 따르면, 2019년 AI를 이용하고 있다고 대답한 최고 회계 책임자의 비율이 4%에 불과하다. 79%는 ‘알려지지 않은 것에 대한 두려움’이 AI 도입을 주저하게 만드는 이유라고 대답했다. 또한, 디지털 제품과 서비스를 강화하는 용도보다, 부정 행위나 사기 거래에 대한 보호책으로 AI를 도입하는 경향이 있다.

달리 말해 금융산업의 AI에 도입에 아주 중요한 역할을 하는 요소는 신뢰이다. 먼로는 AI를 신뢰할 수 있게 만드는 것이 중요하다면서, 이를 자동차에 안전벨트, 속도계, 기타 안전 장치들을 추가하는 것에 비유했다. 

먼로는 “이런 부분들이 확인되지 않으면, 조직에 많은 위험이 초래된다. 우리는 데이터 모델에 편향이 내재되도록 만들 수 없다”라고 말했다.

소비자들이 팬데믹 위기에 디지털 서비스에 대한 소비를 늘리고 있다는 점을 감안했을 때, 이런 신뢰 구축이 특히 더 중요하다. HSBC의 경우, 왓츠앱과 위챗 같은 소셜 미디어 서비스, 애플 페이 같은 ‘탭-투-페이’ 및 무접촉 기술을 이용한 거래가 증가했다. 

먼로는 이런 서비스 사용을 철저히 모니터링해야 한다고 강조했다. 디지털을 통해 유통되는 돈이 늘어날 수록 부정 행위나 사기에 노출되는 사례도 늘어나기 때문이다. 전통적인 신용 카드 사기, 코로나19 팬데믹 위기를 악용한 사기성 거래 등을 예로 들 수 있다.

AI를 위한 가드레일(방호책)
HSBC는 AI 모델을 검증하고, 디지털 서비스의 후방 방어책으로 활용하기 위해 코그니티브스케일(CognitiveScale)의 소프트웨어를 도입해 이용하고 있다. 비즈니스 위험 경감에 초점이 맞춰진 코텍스 서티피아이(Cortex Certifiai)라는 소프트웨어이다. 

코텍스 서티피아이는 머신에서 생성된 예측 정보를 해석 및 설명하고, 기반이 되는 데이터 종류, 데이터 세트, ML 모델, AI 프로세스에 내재된 편향을 찾도록 도움을 준다. 코그니티브스케일의 마노즈 색세나 회장은 이 솔루션을 AI 신뢰 HTTP 역할을 하는 AI 평가 도구라고 설명했다.

2007-2014년 IBM 왓슨 솔루션을 책임졌던 섹세나에 따르면, 이 소프트웨어는 ML 모델에 포함된 데이터에 대해 알려주는 신호가 시간 경과에 따라 바뀌는 데이터 드리프트를 파악하는 것에도 도움을 준다. 

코로나19 이후 데이터 드리프트 문제가 더 커졌다. 고객 구매 패턴이 온라인으로 전환되고, 화장지부터 개인 보호 용품까지 모든 제품에 대한 수요가 급증하면서 소매업체들의 공급 사슬이 정체되고 있기 때문이다. 이런 변화가 새로운 데이터를 생성하는 데, 이 신생 데이터를 모델에 포함시켜야 한다.

금융기관은 이 부분에서 어려움을 겪고 있다. 기존 AI 모델로 새로운 소비자 행동 패턴이 생성한 데이터를 설명하려 애를 쓰고 있기 때문이다. 가령 팬데믹으로 인한 ‘록다운’ 이전에는 온라인 쇼핑을 한 적이 없는 사람이 갑자기 아마존닷컴에서 제품을 구매한다고 가정하자. 이 경우, 금융기관의 부정 행위 감지 시스템에 ‘적색 신호’가 뜬다.

먼로는 “일부 모델은 코로나가 초래한 현실, 실상을 반영하지 않고 있다. 이렇게 디지털 도입이 계속되고 가속화될 때, 무엇이 기준이 될까?”라고 말했다.

코텍스 서티피아이는 ‘신뢰 지수’를 사용해 AI 모델을 숫자 점수로 정량화 한다. 이는 HSBC의 데이터 모델이 새로운 행동 패턴을 설명하도록 도움을 주고 있다. 고객 만족도에 아주 중요한 부분이다. 색세나는 “중요한 의사결정을 머신에게 맡길 때 고객 로열티와 신뢰를 구축하는 것이 아주 중요하다”라고 강조했다.

코그니티브스케일은 여러 광범위한 비즈니스 케이스에 자신의 소프트웨어를 적용하고 있다. 색세나에 따르면, 한 회사는 자동 응답 시스템으로 전화를 한 고객에게 원하는 서비스를 제공하는 담당자를 연결하는 데 코텍스 서티피아이를 사용하는 개념 증명 프로젝트를 추진하고 있다.

편향과의 ‘전투’
즉 이 솔루션은 금융기관에게 잘 들어맞는 특성을 가진다.  AI 모델을 신뢰하는 것을 경계하고 있으면서도 이런 새로운 솔루션에 주사위를 던지려 하는 조직들이다.

하지만 노웨스트 벤처 파트너스, 인텔 캐피털, 마이크로소프트 벤처스, 웨슬리 그룹, USAA 같은 투자사로부터 5,000만 달러를 투자받은 코그니티브스케일이 ‘스위트 스폿’을 찾았는지 여부에 대한 의구심은 남아 있을 수 있다.

의사결정 트리와 회귀 알고리즘을 사용하는 예측 모델에는 항상 편향이 존재했었다. 특히 수많은 if/then/else 명령이 포함되는 경우는 더 그렇다. AI의 설명 용이성에 대한 조사를 담당하고 있는 가트너의 새니에 알라베위 애널리스트는 “새로운 문제가 아니다. 뉴럴 네트워크에만 존재하는 문제도 아니다”라고 말했다.

그녀는 AI를 신뢰할 수 있도록 만드는 방법은 소프트웨어 개발자가 철저한 테스트와 검증을 통해 품질 높은 AI 모델을 비즈니스에 전달하는 것이라고 강조했다. 모든 이해당사자의 니즈를 만족시키는 데 중요한 부분은 프로그래밍 측면의 가드레일(방호책)이다.

HSBC도 여기에 동의했다. 먼로는 “위험과 컴플라이언스를 사전에 고려해야 한다. 처음부터 디자인과 솔루션에 투명성과 통제성을 반영시켜야 한다”라고 말했다. ciokr@idg.co.kr



2020.07.08

“AI 활용에 안전판 필요했다”··· HSBC가 ‘코텍스 서티피아이’를 도입한 이유

Clint Boulton | CIO
규제가 심한 산업의 기업들의 경우 인공지능(AI) 기술을 시도하면서 ‘블랙박스’ 문제에 직면하는 경우가 종종 있다. 업무들을 자동화했을 때 설명할 수 없는 결과가 나오는 문제이다.

특히 은행을 비롯한 금융기관들은 부정 행위 감지부터 자산 추적, 출처 등 다양한 용도로 머신러닝(ML) 모델과 AI 소프트웨어를 이용할 때 투명성과 해석 용이성을 다루느라 애를 먹고 있다. HSBC도 이런 금융 기관 중 하나이다. 

그러나 HSBC에게는 솔루션이 하나 있다. 편향과 데이터 드리프트, 기타 비즈니스에 위험을 초래하는 문제들이 발생할 수 있는 알고리즘을 신뢰할 수 있는 상태로 만드는 데 도움을 주는 소프트웨어 하나가 그것이다.
 
Image Credit : Getty Images Bank

HSBC의 가빈 먼로 CIO는 이런 노력이 코로나바이러스 팬데믹 위기를 맞아 디지털 서비스를 이용하는 소비자들이 증가하고 있는 시기에 신뢰성을 강화하는 중요한 역할을 한다고 설명했다. 

먼로는 CIO닷컴에 “모델에 있는 것과 AI에 있는 것을 균형 있게 제시해야 한다. 우리가 이용하고 있는 것, 우리에게 필요한 품질, 계통, 가장 정확한 데이터를 갖고 있다는 점을 설명해야 한다. 신뢰가 없는 환경에서는 일을 할 수 없기 때문이다”라고 말했다.
 
금융기관들이 AI를 주저하는 이유
금융기관들은 AI가 운영을 자동화 및 강화하고, 고객 자산을 보호하는 일에 도움을 준다는 점을 잘 알고 있다. 그러나 해석이 불가능하고, 알고리즘이 규제 당국과 감사 위원회, 소비자의 교구에 부합한다는 것을 설명할 수 없는 경우, 이 기술을 도입하기 주저한다. 잘못된 정보의 캠페인이 퍼져 나갔던 문제, 얼굴 인식 기술의 인종적 편견 문제 등을 유발한 알고리즘 때문에 AI에 대한 불신이 높아졌다.

규제 당국의 감시를 받고 있는 금융서비스 산업의 기업들은 비즈니스를 강화하기 위해 사용하는 기술에 조심스럽게 접근하는 경향이 있다. 이를테면 편향이나 편견 때문에 자격이 있는 사람이 대출을 못 받는 문제 등이 발생할 수 있기 때문이다.

가트너 조사에 따르면, 2019년 AI를 이용하고 있다고 대답한 최고 회계 책임자의 비율이 4%에 불과하다. 79%는 ‘알려지지 않은 것에 대한 두려움’이 AI 도입을 주저하게 만드는 이유라고 대답했다. 또한, 디지털 제품과 서비스를 강화하는 용도보다, 부정 행위나 사기 거래에 대한 보호책으로 AI를 도입하는 경향이 있다.

달리 말해 금융산업의 AI에 도입에 아주 중요한 역할을 하는 요소는 신뢰이다. 먼로는 AI를 신뢰할 수 있게 만드는 것이 중요하다면서, 이를 자동차에 안전벨트, 속도계, 기타 안전 장치들을 추가하는 것에 비유했다. 

먼로는 “이런 부분들이 확인되지 않으면, 조직에 많은 위험이 초래된다. 우리는 데이터 모델에 편향이 내재되도록 만들 수 없다”라고 말했다.

소비자들이 팬데믹 위기에 디지털 서비스에 대한 소비를 늘리고 있다는 점을 감안했을 때, 이런 신뢰 구축이 특히 더 중요하다. HSBC의 경우, 왓츠앱과 위챗 같은 소셜 미디어 서비스, 애플 페이 같은 ‘탭-투-페이’ 및 무접촉 기술을 이용한 거래가 증가했다. 

먼로는 이런 서비스 사용을 철저히 모니터링해야 한다고 강조했다. 디지털을 통해 유통되는 돈이 늘어날 수록 부정 행위나 사기에 노출되는 사례도 늘어나기 때문이다. 전통적인 신용 카드 사기, 코로나19 팬데믹 위기를 악용한 사기성 거래 등을 예로 들 수 있다.

AI를 위한 가드레일(방호책)
HSBC는 AI 모델을 검증하고, 디지털 서비스의 후방 방어책으로 활용하기 위해 코그니티브스케일(CognitiveScale)의 소프트웨어를 도입해 이용하고 있다. 비즈니스 위험 경감에 초점이 맞춰진 코텍스 서티피아이(Cortex Certifiai)라는 소프트웨어이다. 

코텍스 서티피아이는 머신에서 생성된 예측 정보를 해석 및 설명하고, 기반이 되는 데이터 종류, 데이터 세트, ML 모델, AI 프로세스에 내재된 편향을 찾도록 도움을 준다. 코그니티브스케일의 마노즈 색세나 회장은 이 솔루션을 AI 신뢰 HTTP 역할을 하는 AI 평가 도구라고 설명했다.

2007-2014년 IBM 왓슨 솔루션을 책임졌던 섹세나에 따르면, 이 소프트웨어는 ML 모델에 포함된 데이터에 대해 알려주는 신호가 시간 경과에 따라 바뀌는 데이터 드리프트를 파악하는 것에도 도움을 준다. 

코로나19 이후 데이터 드리프트 문제가 더 커졌다. 고객 구매 패턴이 온라인으로 전환되고, 화장지부터 개인 보호 용품까지 모든 제품에 대한 수요가 급증하면서 소매업체들의 공급 사슬이 정체되고 있기 때문이다. 이런 변화가 새로운 데이터를 생성하는 데, 이 신생 데이터를 모델에 포함시켜야 한다.

금융기관은 이 부분에서 어려움을 겪고 있다. 기존 AI 모델로 새로운 소비자 행동 패턴이 생성한 데이터를 설명하려 애를 쓰고 있기 때문이다. 가령 팬데믹으로 인한 ‘록다운’ 이전에는 온라인 쇼핑을 한 적이 없는 사람이 갑자기 아마존닷컴에서 제품을 구매한다고 가정하자. 이 경우, 금융기관의 부정 행위 감지 시스템에 ‘적색 신호’가 뜬다.

먼로는 “일부 모델은 코로나가 초래한 현실, 실상을 반영하지 않고 있다. 이렇게 디지털 도입이 계속되고 가속화될 때, 무엇이 기준이 될까?”라고 말했다.

코텍스 서티피아이는 ‘신뢰 지수’를 사용해 AI 모델을 숫자 점수로 정량화 한다. 이는 HSBC의 데이터 모델이 새로운 행동 패턴을 설명하도록 도움을 주고 있다. 고객 만족도에 아주 중요한 부분이다. 색세나는 “중요한 의사결정을 머신에게 맡길 때 고객 로열티와 신뢰를 구축하는 것이 아주 중요하다”라고 강조했다.

코그니티브스케일은 여러 광범위한 비즈니스 케이스에 자신의 소프트웨어를 적용하고 있다. 색세나에 따르면, 한 회사는 자동 응답 시스템으로 전화를 한 고객에게 원하는 서비스를 제공하는 담당자를 연결하는 데 코텍스 서티피아이를 사용하는 개념 증명 프로젝트를 추진하고 있다.

편향과의 ‘전투’
즉 이 솔루션은 금융기관에게 잘 들어맞는 특성을 가진다.  AI 모델을 신뢰하는 것을 경계하고 있으면서도 이런 새로운 솔루션에 주사위를 던지려 하는 조직들이다.

하지만 노웨스트 벤처 파트너스, 인텔 캐피털, 마이크로소프트 벤처스, 웨슬리 그룹, USAA 같은 투자사로부터 5,000만 달러를 투자받은 코그니티브스케일이 ‘스위트 스폿’을 찾았는지 여부에 대한 의구심은 남아 있을 수 있다.

의사결정 트리와 회귀 알고리즘을 사용하는 예측 모델에는 항상 편향이 존재했었다. 특히 수많은 if/then/else 명령이 포함되는 경우는 더 그렇다. AI의 설명 용이성에 대한 조사를 담당하고 있는 가트너의 새니에 알라베위 애널리스트는 “새로운 문제가 아니다. 뉴럴 네트워크에만 존재하는 문제도 아니다”라고 말했다.

그녀는 AI를 신뢰할 수 있도록 만드는 방법은 소프트웨어 개발자가 철저한 테스트와 검증을 통해 품질 높은 AI 모델을 비즈니스에 전달하는 것이라고 강조했다. 모든 이해당사자의 니즈를 만족시키는 데 중요한 부분은 프로그래밍 측면의 가드레일(방호책)이다.

HSBC도 여기에 동의했다. 먼로는 “위험과 컴플라이언스를 사전에 고려해야 한다. 처음부터 디자인과 솔루션에 투명성과 통제성을 반영시켜야 한다”라고 말했다. ciokr@idg.co.kr

X