‘차별화는 현재진행형’··· 금용 업계가 AI를 활용하는 방법

피니는 AI가 금융 기업들에게 있어서 큰 차별점이 될 것으로 보고 있다. 단 소비자에게 명확한 가치를 제공해야 할 것이라고 그는 덧붙였다.

그는 "가령 대출 사업에 기회가 있을 수 있다. 현재 새로운 집단의 사람들에게 대출 제품을 제공하기 위해 대체 데이터원을 사용하는 것에 관한 많은 활동이 이루어지고 있다"라고 설명했다.

사기 분석 또한 중요한 활용 사례다. 그는 "AI가 사기를 방지하고 비정상적인 활동을 더욱 신속하게 찾아내기 위해 사기를 더욱 신속하게 찾아내는 능력을 강화할 것이라고 생각한다"라고 말했다.

가라브 나이아파티는 이에 동의했다. 나이아파티는 "보험업을 생각해 보자. 수 천 가지의 적용방법이 있다. AI는 사기이거나 위험이 높을 수 있는 케이스를 걸러내는데 도움이 될 수 있으며, 걸러낸 것만 에이전트가 검토할 수 있을 것이다"라고 말했다. 10대 글로벌 은행 중 한 곳에서 AI 프로젝트를 주도하던 그는 현재 금융 기술 스타트업을 설립하고 있다. 

나이아파티는 이어 "단 우리는 AI를 책임감 있게 활용해야 한다. 이해당사자들과 고객들에게 답을 제공해야 한다. 그리고 상황이 잘못되면 은행은 엄청난 위약금을 지불해야 한다"라고 말했다.

최근 가트너의 설문조사에 따르면 금융 서비스 기업 중 46%가 사기 감지를 위해 AI를 사용하고 있는 것으로 나타났다.

보안 업계의 기업들도 사전 및 사후 위험 분석에 머신러닝을 활용하고 있다고 탭 그룹(Tabb Group)의 핀테크 및 유럽 조사 책임자 모니타 서머빌이 전했다. 탭 그룹이 수행한 최근의 설문조사에서 보안 기업 중 대부분이 12개월 안에 AI에 대한 지출을 늘릴 계획인 것으로 나타났다.

가트너에 따르면 AI는 향후 금융 계약 검토나 거래 개시 등 더욱 복잡한 작업에도 영향을 끼칠 것이다. 해당 조사 기업은 2020년까지 비영업 부서 인력 중 20%가 이례적인 업무를 위해 AI에 의존할 것으로 전망했다.

컴플라이언스 문제
규제 당국들은 이미 신용 위험 평가 또는 의심스러운 행동 발견 등을 위해 금융 기관들이 사용하는 모델을 감독하기가 어렵다는 사실을 잘 잘 알고 있다. 모델이 매우 복잡하고 분석하기 어려울 수 있다. 아니면 제3자 벤더의 특허 모델일 수도 있다.

이런 문제를 해결하는 방법은 다양하다. 그러나 추가적인 우려의 소지 또한 존재한다. 연방준비제도이사회(Federal Reserve Board)의 구성원인 랠 브레이나드는 한 연설에서 "AI의 경우 불투명함과 설명 가능성 영역에서 문제가 생길 수 있다. 설명할 수 없거나 불투명하더라도 AI 툴을 사용하는 것이 이익이 되는 상황이 있을 가능성이 있다는 것을 인지한다면 AI 툴을 적절히 통제해야 한다"라고 말했다.

여기에는 툴을 구축하는 방법, 실제로 사용하는 방법, 데이터 품질 및 적합성 등에 대한 통제가 포함되어 있다고 그는 말했다.

 블랙박스 문제로도 알려져 있는 설명 가능성은 AI 시스템의 특수한 문제이다. 전통적인 통계 모델에서는 데이터 과학자가 특정 결정이나 예측에 필수적인 요소를 수동으로 선택하고 이런 요소의 가중치를 결정한다. 하지만 AI 시스템은 이전에 알려져 있지 않고 이해하기 어려운 패턴을 확인할 수 있다. 이 때문에 은행이 의사 결정의 요소를 설명해야 하는 신용 기회 균등법(Equal Credit Opportunity Act)과 공정 신용 보고법(Fair Credit Reporting Act)을 준수하기 어려운 것이다.

브레이나드는 "다행히도 AI 자체가 해법을 제시할 수 있다. AI 커뮤니티는 '설명 가능한' AI 툴을 더욱 발전시키고 있으며 신용도에 대한 소비자 접근성을 확대하는데 집중하고 있다"라고 전했다.

보안 업계도 이 문제를 해결하기 위해 노력하고 있다고 탭의 서머빌이 말했다. "편파적이지 않은 모델을 AI로 구축할 수 있을까? 가능해야 한다. 어떻게 결정을 내렸는지 설명할 수 있어야 한다. 규제 당국들은 실수로 편견이 들어가지 않도록 하는데 관심이 집중되어 있다"라고 그는 말했다.

싱크로니는 신용 평가을 위해 AI와 머신러닝을 고려하고 있다고 전하며 블랙박스 문제가 해당 기업에게도 문제가 되고 있다고 밝혔다. "우리는 우리의 모델에 설명 가능성을 적용하는 방법을 연구하고 있으며 의사를 결정한 이유를 밝히는 것도 중요하다. 그러나 쉽지 않은 일이다"라고 싱크로니의 심슨은 말했다.

이 기업은 AI 모델을 훈련시키기 위해 사용하는 미가공 데이터가 편향되지 않도록 하기 위해 많은 노력을 기울이고 있다. 이 때문에 그렇게 많은 데이터 과학자가 필요한 것이라고 심슨이 말했다. 그는 이어 “다양한 인력으로 팀을 구성하는 것도 이를 위해서다. 다양성 팀이 없다면 팀이 편향되기 때문에 데이터의 편향을 찾아내기 어렵다. 특히 우리 같은 은행에게는 중요한 부분이다. 이 분야에서는 팀의 다양성이 가장 중요한 방어책이다"라고 말했다. ciokr@idg.co.kr