Offcanvas

AI / 디지털 트랜스포메이션 / 로봇|자동화 / 머신러닝|딥러닝 / 빅데이터 | 애널리틱스

금융 혁명과 빅브라더 사이··· 모건스탠리 AI 도구 ‘디브리프’에 엇갈리는 전문가 평가

2024.07.03 Evan Schuman  |  CIO
모건스탠리가 고객과 직원 간 소통 내용을 실시간으로 분석하는 AI 도구를 공개해 주목받고 있다. 금융 시장을 대표하는 모건스탠리의 이 혁신적 시도에 대해 전문가들은 기대와 우려를 동시에 표하고 있다.
 
ⓒ 모건스탠리

모건스탠리가 재무 설계사를 위해 만든 생성형 AI 도구를 26일 공개하면서 업계에서 많은 관심을 받고 있다. 모건스탠리는 해당 AI 도구가 내부 직원의 업무 효율성을 높이는 데 기여할 것이라고 기대하고 있다. ‘AI 앳 모건스탠리 디브리프(AI@Morgan Stanley Debrief, 이하 디브리프)’불리는 이 AI 도구는 모건스탠리 직원이 평균 연 100만 건이 넘게 진행하는 컨퍼런스콜의 핵심 내용을 자동으로 녹음, 기록, 요약하는 기능을 제공한다.

디브리프는 오픈AI 기술을 기반으로 개발됐으며, 재무 설계사에게 필요한 이메일을 작성하고, 통화 내용을 모건스탠리의 세일즈포스 시스템에 자동으로 기록한다. 디브리프의 진정한 강점은 단순한 AI 기반 녹취 및 요약 기능이 아니다. 핵심 가치는 모든 모건스탠리 직원과 협력 업체가 동일한 시스템을 사용해 데이터를 일관된 형식으로 생성하면서, 종합적인 분석을 지원한다는 점이다.

디브리프 덕분에 이론상으로는 모건스탠리 경영진은 회사 전체에서 이뤄진 모든 통화의 분석 결과를 통화 종료 후 몇 분 안에 확인할 수 있다. 직원들이 회사 방침에 맞게 대화하고 있는지, 고객들이 무엇을 중요하게 여기는지, 어떤 질문을 하는지, 지난달과 비교해 고객 심리가 어떻게 변했는지 등을 파악할 수 있는 셈이다.

심층분석의 새 지평을 여는 ‘디브리프’
미국의 재무 컨설팅 기업 MDRN 캐피탈의 설립자 겸 CEO인 애런 서크세나는 디브리프의 핵심 가치로 중앙화된 서비스를 데이터를 일관성있게 확보하는 것과 이를 바탕으로 심층적인 글로벌 분석 및 인사이트 도출을 할 수 있게 된 점을 꼽았다.

서크세나는 “데이터 분석 수준이 한층 높아질 것이다”라며 “단, 모든 대화를 들여다볼 수 있다는 점에서 사실상 ‘빅 브라더’ 기술로 자리잡을 수 있다”라며 “직원들이 실제로 지시받은 대로 얘기하고 있는지 확인할 수 있을 것”이라고 설명했다.

마케팅 회사 모드 오프(Mod Op)의 최고 전략 책임자 조너선 머레이도 디브리프의 분석 기술에 주목했다. 머레이는 “고객과의 소통 내용은 캐지 않는 금광처럼 인사이트를 얻을 수 있는 원천이다”라며 “모건스탠리는 이번 도구로 대규모 언어 모델(LLM)을 통해 고객과의 소통에서 더 많은 가치를 창출하는 혁신적인 방법을 선보였다”라고 평가했다.

모드 오프 소속 컨설턴트 겸 이사 모니카 리히터는 “디브리프로를 기반으로 고객 의견을 종합해 투자 아이디어를 내놓을 수 있다. 혹은 은퇴 계좌 설정에 대한 대화를 나눴다면, 고객 포트폴리오에 맞는 IRA나 로스 IRA 관련 정보를 자동으로 이메일로 보내줄 수 있을 것”이라고 설명했다.

우려 사항
모건스탠리는 디브리프로 여러 이점을 누릴 수 있지만, 예상치 못한 문제를 만날 수도 있다. AI 컨설팅 회사 슬라롬(Slalom)의 이사 레베카 조지는 “데이터 때문에 모건스탠리는 법적 분쟁에 휘말릴 수 있다”라고 경고했다.

조지는 “모건스탠리가 성별이나 인종에 따라 차별적 조언을 했다는 의혹이 제기된다면 골치가 아파질 수 있다”라며 “데이터 및 생성물이 가진 잠재적 편향성 때문에도 소송에 휘말릴 수 있다. 혁신 추구와 윤리적 책임 사이에서 문제가 발생할 수 있는 것이다. 다시 말해 새로운 데이터를 활용하면서 이전에는 경험하지 못한 법적 문제를 마주할 수 있다. 모건스탠리가 이 부분에 얼마나 대비를 했는지는 두고 봐야 할 부분이다”라고 설명했다.

특히 일부 전문가들은 모건스탠리가 오픈AI 기술을 어떻게 활용하고, 민감한 고객 정보를 어떤 식으로 보호할지 설명하지 않은 부분에 문제를 제기했다. AI 컨설팅 회사 릴레이어 그룹(The Relayer Group)의 전무 HP 뉴퀴스트는 “고객은 자신의 정보가 어떻게 보호되는지 물을 것이다. 그리고 모건스탠리는 이에 대한 전략을 공개적으로 밝혀야 한다”라고 밝했다.

업계 전문가는 또한 모건스탠리가 오픈AI 코드를 어떻게 호스팅하고 있고, 오픈AI 서버와 어떤 방식으로 상호작용하는지를 공개하지 않은 점도 지적했다. 이에 대해 모건스탠리 측은 세부 사항은 기밀이라며, 디브리프가 오픈AI 서버와 어떻게 상호작용하는지 명확히 설명할 수 없다고 밝혔다.

AI 코딩 도구 기업 탭나인의 사장 피터 과젠티는 데이터 보안과 관련해서 우려를 표명했다. 과젠티는 “고객 입장에서 자신의 통화가 녹음돼 제3자에게 전송되고 AI로 처리된다는 걸 안다면 어떨까? 개인정보가 보호되고 있다고 생각하기 어려울 수 있다”라고 밝혔다.

과젠티는 모건스탠리가 고객 데이터 보호 방안을 투명하게 공개해야 한다고 강조했다. 과젠티는 “재무 상담은 극도로 민감한 개인정보다. 그런 내용이 외부로 새나가면 엄청난 피해로 이어질 수 있다. 특히 데이터 처리 과정이 불투명한 상태에서 빅테크 기업과 공유된다면, 많은 고객이 이를 납득하기 어려워할 것”이라고 설명했다.

단계적 도입
모건스탠리는 디브리프 시스템의 통합성을 강조하며 “디브리프는 자문 업무를 맡은 직원의 워크플로에 완벽히 내장된 최초의 기술이라는 점에서 특별하다. 화면 전환 없이 고객 동의 하에 모든 상호작용을 캡처하고 CRM에 기록할 수 있다. 회의가 끝나면 핵심 내용을 요약하고 수정 가능한 이메일을 작성하며 세일즈포스에 메모 사항을 저장한다”라고 설명했다.

모건스탠리는 2023년 9월부터 디브리프를 시험 운영해 왔다. 처음 50명의 재무 설계사로 시작해 현재 300명이 수백 건의 고객 미팅에 이를 활용하고 있다고 한다.

익명의 모건스탠리 관계자 A는 전사적 데이터 분석은 아직 디브리프의 목표가 아니라고 밝혔다. A는 “적어도 지금은 전사 데이터 분석을 하려고 디브리프를 도입하는 것이 아니다. 가령 일단 현재는 중앙 관리자가 재무 설계사(Financial Advisor, FA)의 개인 장부에 접근할 수 없다. 설계사가 원할 경우 AI 결과물을 지점장에게 공유할 수 있지만, 중앙에서 직접 데이터나 AI 생성물을 검토하진 않는다”라고 설명했다.

이번 프로젝트를 총괄한 모건스탠리의 코렌 피아카리엘로는 CIO닷컴과의 인터뷰를 통해 “AI도구가 없었던 시절에는 재무 설계사는 고객 통화 내용을 글로 정리하는데 1시간 정도 걸렸다. 어떤 설계사는 보조 직원을 일부러 불러 따로 요약 업무를 맡기기도 했다”라며 “디브리프라는 AI로 지원 인력들이 더 가치 있는 일에 시간을 쓸 수 있게 될 것”라고 말했다.

해결해야 할 기술 문제
업계 전문가는 디브리프가 여러 해결해야 하는 기술적 문제를 갖고 있다고 지적했다. AI 보안 기업 딥킵(DeepKeep)의 CTO 요시 알타베는 “회의 중 누군가 ‘이건 잊어’ 혹은 ‘이건 무시해’라고 말할 경우, 디브리프는 이해하지 못하고 오류를 만들 수 있다. 더 큰 문제는 AI가 대화 내용을 요약할 때 발생하는 환각 현상이다. 이는 잘못된 결론 혹은 부적절한 결정으로 이어질 수 있다. 정보가 누락되거나 잘못된 정보가 강조되고, 그로 인해 부정확한 요약 내용이 생성될 수 있다. 이는 다시 고객 불만을 낳고 나아가 고객 이탈까지 발생할 수 있다”라고 설명했다. 또한 알타베는 “개인정보 처리 과정에서 데이터가 유출되거나 편향된 결과를 만들고, 컴플라이언스를 제대로 지키지 못할 수 있다”라고 언급했다.

또 다른 우려는 검증과 관련된 것이다. MDRN 캐피탈의 서크세나는 “초기에는 직원이 AI 결과를 꼼꼼히 검토하겠지만, 시간이 지나면 과도하게 의존할 수 있다”라고 “사실상 많은 직원이 AI에 익숙해질수록 검토하는 것에 덜 신경쓸 것이다. 그런 면에서 모건스탠리는 지속적으로 작동할 수 있는 검증 체계를 마련해야 한다”라고 지적했다.

서크세나는 이런 검증을 위해 모건스탠리가 여러 AI 도구를 함께 도입할 수 있다고 예측했다. 예를 들어, 줌이나 다른 IT 도구로 메모를 작성한 후, 디브리프 외에 또 다른 AI 도구를 활용해 결과를 비교 분석해 볼 수 있다. 서크세나는 “여러 AI 생성물을 비교하면서 결과를 분석하면 오류 가능성을 줄이고 전반적인 시스템 신뢰도를 높일 수 있다”라고 주장했다.
ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.