AI 알고리즘 투자 확산··· 누가 어떻게 책임질 것인가?

Computerworld UK

헤지 펀드들이 머신러닝 거래 기법 활용을 확대하고 있다. 이에 따라 규제당국 및 고객들은 전에 없던 조건 하나를 고민하고 있다. 블랙박스 알고리즘으로 관리되는 투자에서 문제가 발생하면 누구의 책임일까?

EU(European Union) 입법자들은 MiFID II(Markets in Financial Instruments Directive) 규제를 통해 알고리즘 중심적 펀드를 통제하는 법률을 제정하려 시도하기는 했다. 그렇다면 규제당국은 인공지능에의 의존을 제어하기 위해 충분한 행동을 취하고 있을까? 그리고 기술이 잘못되면 누가 고통을 받게 될까?

지난해 블룸버그(Bloomberg)는 " 2015년 인공지능이 51억 달러 규모에 이르는 맨(Man)의 대형 펀드 중 하나인 AHL 디멘션 프로그램(Dimension Programme)의 수익 중 약 절반에 기여했다. AI가 전체 자산의 극히 일부만을 통제했음에도 불구하고 그렇다”라고 보도했다.

맨 그룹(Man Group) 외에도 르네상스 테크놀로지스(Renaissance Technologies), 투 시그마(Two Sigma), 브리지워터 어소시에이츠(Bridgewater Associates), 스티브 코헨(Steve Cohen)의 포인트72 벤처스(Point72 Ventures), 샌프란시스코(San Francisco)에 위치한 신흥 센티언트(Sentient) 및 UBS 등의 기업들도 AI 기술을 실험하거나 관련 인력을 고용하고 있다.

이 분야에서의 AI는, 이전에 예측된 시장 트렌드를 찾아내고 경쟁자보다 거래를 빠르게 실행해 인간보다 마켓 모멘텀(Market Momentum)에 더욱 신속하게 투자할 수 있는 머신러닝 알고리즘을 설계함으로써 알고리즘 또는 고 빈도 거래를 강화하는 것이 핵심이다. 마이클 루이스(Michael Lewis)의 책 플래시 보이스(Flash Boys)에서 그려진 것처럼 말이다.



맨 AHL의 머신러닝
맨 그룹에서의 머신러닝 기법 활용은 1987년에 처음 시작됐으며, 정량적 투자 관리에 집중한 맨 AHL 부서 내부에서 이루어진다. 여기에서 컴퓨터 알고리즘은 인간의 제한적인 개입을 통해 시점, 가격 또는 수량 등 주문의 파라미터를 자동으로 판단한다.

전통적으로 맨 AHL의 연구원들은 이런 전략을 찾아 실행하는 트렌드를 찾아낼 수 있도록 컴퓨터를 프로그래밍한다고 볼 수 있다. 현재 머신러닝 알고리즘 또는 좀 구체적으로 말해서 딥러닝(Deep Learning)을 통해 연구원들은 컴퓨터가 특정 안내 없이도 트렌드를 찾아 실행하도록 프로그래밍할 수 있다.

맨 AHL의 웹 사이트에 있는 보고서는 다음과 같이 밝히고 있다. “이런 초기 머신러닝 알고리즘은 데이터 내에서 더욱 미묘하고 비 선형적인 관계를 이어가는데 뛰어나다... 3년의 거래 후 지속적인 연구를 통해 우리는 이런 종류의 모델이 한계가 없을 때 기존의 모델을 보완할 수 있는 방식으로 트렌드를 포함하여 방향성 시장 거동을 식별하는데 도움이 될 수 있다.”

이 접근방식의 문제점은 내재적으로 일종의 ‘블랙박스’이며 알고리즘의 설계자들조차도 기계가 판단하는 방법에 대해서 정확히 잘 모르고 있다는 것이다.

이 때문에 맨 그룹의 CEO 루크 엘리스(Luke Ellis)는 한 동안 생각에 잠겼다고 블룸버그가 보도했다. “엘리스는 새로운 접근방식이 즉각적인 배당금 등을 창출할 수 있더라도 고객의 펀드를 관리하는 AI가 작동하는 방식을 설명할 수 없다면 대형 고객들을 유치할 수 없다는 사실을 깨달았다. 수익 중 일부를 잃는 경우가 발생하기 마련인데, 그에 대한 대답을 제시할 수 있어야 하기 때문이다”라고 블룸버그가 보도했다.

규제당국
헤지 펀드는 속성상 매우 부유한 고객을 위한 사설 투자 수단이기 때문에 다른 투자 기관보다 규제가 덜하다. 이론적으로 헤지 펀드는 처음부터 고객에게 솔직하게 밝히는 한, 자신이 판단하기에 적합한 곳에 고객의 돈을 투자할 수 있다.

예를 들어, 맨 그룹은 반기 보고서 및 정기적인 직접 의사소통을 통해 고객에 이행 중인 새로운 전략에 관해 알려준다. 이런 보고서가 알고리즘을 정확히 설명하는 것은 아니지만(왜냐하면 그러기를 원하더라도 그럴 수 없기 때문이다.) 고객들에게 머신러닝 알고리즘이 점차 자산 거래에 배치될 것임을 알려주는 것이 목적이다.

맨 그룹의 2017년 전반기 중간 결과 진술(pdf)을 살펴보자. “AHL 또한 새로운 연구 기법과 데이터의 형태를 활용함으로써 성장의 기회를 제공하기 위해 머신러닝 및 데이터 분석에 대한 연구의 초점을 확대했다. 이 계획이 아직 연구 단계이기는 하지만 여러 새로운 머신러닝 기반의 신호가 올 해 디멘션(Dimension), 알파(Alpha) 및 다이버시파이드(Diversified) 프로그램에 추가되었다.”

이는 헤지 펀드 투자자들의 위험 관련 욕구와 관련되어 있다. 할리우드(Hollywood) 버전의 빅쇼트(The Big Short)에서 크리스찬 베일이 분한 헤지 펀드 사이언 캐피탈(Scion Capital)의 설립자 마이클 베리의 고객들을 예로 들어보자. 베리는 투자자들에게 자신이 그들의 돈을 시장 기반의 모기지 담보증권에 공격적으로 투자하고 있다고 밝혀야 했으며 이로 인해 많은 사람들이 그의 방법에 의구심을 가지고 그가 전략을 수정하도록 압박을 가하고 돈을 찾아가겠다고 협박했다.

만약 베리의 AI 버전이 어떤 이유로든 상당한 손실을 기록할 것 같은 상황이라면 이 펀드의 고객들은 이의 제기 절차 또는 규제당국의 규제를 신청할 수 있을까? 그리고 이러한 상황이 단지 헤지 펀드를 이용할 때의 위험일 뿐일까?

MiFID II
알고리즘 거래와 관련된 법률 제정의 핵심은 ‘MiFID II’다. MiFID II는 빠르게 변화하는 금융 환경에서 특히 주식 다크풀(Dark Pool) 거래와 빈번한 거래에 주로 의존하는 투자자들을 보호하기 위한 EU의 법률이다.


2018년 1월에 발효된 MiFID II는, 시험 및 거래 전/후 관리뿐만이 아니라 알고리즘이 시장 혼란 또는 시장 남용에 기여하지 못하도록 하는 ‘킬(Kill) 기능”을 요구한다. 또한 기업들은 “알고리즘 거래 전략의 속성, 거래 파라미터 또는 한계의 세부사항, 주요 준수성 및 위험 관리, 시험의 세부사항에 관한 설명과 함께” 기록을 보존해야 한다. 그러면 FCA는 알고리즘 거래 기업이 이런 표준을 준수하도록 규제한다.

하지만 MiFID II는 내부에서 어떤 일이 일어나는지와 관련해 꽤 모호하다. 컴플라이언스 인원이 “최소한 해당 기업의 알고리즘 거래 시스템과 알고리즘이 작동하는 방식을 일반적으로 이해하고 후자에 대한 세부적인 지식이 있는 사람과 지속적으로 연락을 취해야 한다”라고 명시하고 있다. 그리고 머신 및 딥러닝 등의 첨단 기술은 거의 언급되지 않는다.

FCA와 MiFID II
2018년 2월 도매 시장에서의 알고리즘 거래 컴플라이언스(Algorithmic Trading Compliance in Wholesale Markets, pdf)에 관한 FCA의 출판물에서는 다음과 같이 명시돼 있다. “알고리즘 거래에 참여하는 모든 기업이 관련된 모든 비즈니스 측면에서 일관되게 적용하는 적절한 개발 및 시험 프레임워크를 유지해야 한다. 이는 기업들이 머신러닝 기법 등의 혁신적인 기술을 사용할 때 특히 중요하다.”

또 기업들은 반드시 “알고리즘에 대한 상당한 또는 중대한 변경사항을 정의 및 식별해야 한다.” 이 밖에 FCA는 기업들이 요청 시 14일 이내에 “알고리즘 거래 전략의 속성에 관한 설명”을 제공하도록 강제할 수 있다고 제시했다.

하지만 FCA는 딥 러닝 알고리즘의 디자이너조차도 “알고리즘 거래 전략의 속성에 대한 설명”을 제공하기 어렵다는 점을 인정하지 않는 것으로 보인다.

한편 FCA 문서에는 고급 데이터 기법을 직접적으로 언급하지는 않으며, 기업들의 책임에 대해서는 그리 명확하지 않다. 그 내용은 다음과 같다. “검토의 일환으로써 우리는 머신러닝 및 인공 지능의 발전도 고려한다. 이런 경우에 수행된 시장과 관련된 위험이 고조될 수 있으며 특히 기업들은 잠재적인 영향을 고려해야 한다.”

마지막으로 영국 기업들은 브렉시트(Brexit)가 가시화되는 상황에서 MiFID를 준수해야 할까? FCA는 영국이 공식적으로 EU에서 탈퇴할 때까지는 MiFID I 같은 EU 법률이 지속적으로 적용되며 기업들은 MiFID II 같은 새로운 EU 법률 제정의 이행을 위해 지속적으로 노력해야 한다고 명시했다.

변호사들의 의견
이 모든 것을 고려해볼 때, AI 관리 펀드의 고객은 알고리즘에 문제가 발생할 것 같은 경우 규제책 또는 이의 제기 절차를 이용할 수 있을까?

법률 기업 켐프 리틀(Kemp Little)의 금융 규제 책임자 제이콥 갠티는 컴퓨터월드 UK(Computerworld UK)에 이렇게 설명했다. “펀드의 부실한 실적이 반드시 징계 사안은 아니며 투자자의 이의 제기 근거가 되지 않는다. 펀드는 항상 성과가 낮으며 규제 위반이 아니며 규제 위반일 수도 있지만 관리자가 AI를 이용하거나 이용하지 않고 선택한 전략이 성공하지 못할 수도 있다.”

이에 대해 FCA는 투자 관리는 규제되는 활동이기 때문에 기업이 펀드 내에서 행하는 모든 것에는 MiFID II 등 기존의 규칙이 적용된다고 밝혔다. 좀 더 구체적으로 헤지 펀드는 AIFMD(Alternative Investment Fund Managers Directive)의 소관인 경향이 있다. 하지만 FCA는 컴퓨터월드 UK에 현 시점에서 인공지능 사용에 대한 구체적인 규칙이 없다고 밝혔다.

하지만 갠티는 FCA가 이런 신중한 접근방식을 취한 법적 선례가 있을 수 있다고 판단하고 있다. 그는 다음과 같이 설명했다.

“FCA는 관리자가 기술을 배치하는 방식에 대한 구체적인 체제가 없기 때문에 좀더 일반적으로 살펴볼 것이다. 전통적인 영국 법률 접근방식은 새로운 일련의 사실이 발생할 때 가장 오래 전에 수립된 법률 원칙을 적용하는 것이다. 따라서 영국 법률 하에서 기술에 적합한 새로운 종류의 법률을 제정하는 것은 드물다. 일반적으로 법원은 오래된 것처럼 보일 수 있는 법률 시스템을 통해 새로운 기술을 끼워 맞춘다.”

한편 FCA는 알고리즘에 결함이 있는 것으로 판단될 때 개입할 수 있다고 갠티는 진단했다. 그는 “FCA는 또 다른 내부 시스템의 측면에서 헤지 펀드 관리자를 살펴볼 수도 있으며 다른 모든 시스템과 마찬가지로 우리는 해당 기업이 고객의 이익 극대화를 추구할 의무에 있어서 합목적적인지 확인할 책임이 있다”라고 설명했다.

컴퓨터월드 UK는 AI와 관련된 규제 접근방식을 이해하기 위해 여러 번 시도했지만 FCA가 거부했으며 아무도 인터뷰에 응하지 않았다. 맨 그룹 또한 이 기사에 대한 의견 개진을 거부했다.

안전 장치
기업들로서는 자신이 배치하는 안전 장치 작업을 외부 세계와 논의하는 것을 꺼릴 수 밖에 없다.

맨 AHL이 알고리즘에 내장한 것에 대해 현재 알려진 정보는 블룸버그의 정보가 전부다. “준수성 및 위험 관리 규칙이 해당 시스템의 DNA에 깊이 뿌리내리고 있어 잘못되거나 수익을 위한 지름길로써 법률을 위반하는 일이 없도록 방지한다”라는 문구다.

이에 대해 켐프 리틀의 갠티는 이렇게 반문했다. “관리자는 이런 종류의 기법을 활용하여 내부 위험과 준수성 시스템을 검토해야 한다. 단지 투자자 앞에 적절한 문서를 내놓는 것이 아니라 내부적인 비즈니스 운영 방식도 중요하다. 그렇다면 그들은 적절한 내부적인 견제와 균형이 있고 이에 따라 시스템을 모니터링하는가? 그들은 능력이 있고 준수성 및 위험 기능의 사람들은 이런 프로그램의 활동을 모니터링할 능력이 있는가?”

맨 그룹 내에서 이런 기법의 활용을 개척하고 그 이후로 AHL의 최고 투자 경영자가 된 닉 그레인저(Nick Granger)는 블룸버그와의 인터뷰에서 안전 장치에 실행에 앞서 이례적인 거래에 대한 인간의 검토 그리고 엔지니어들이 AI가 특정 결정을 내릴 이유를 파악하는데 도움이 되는 부검 툴이 포함되기 때문에 조금은 이해가 가능할 수 있다고 주장했다.

그럼에도 불구하고 이 시스템의 이점은 ‘불가지성’(unknowability)이다. 펀드 매니저가 그 기능과 방법을 정확히 알고 있다면 해당 시스템이 우위를 점할 수 없기 때문이다. ciokr@idg.co.kr