AI 알고리즘 투자 확산··· 누가 어떻게 책임질 것인가?

2018년 1월에 발효된 MiFID II는, 시험 및 거래 전/후 관리뿐만이 아니라 알고리즘이 시장 혼란 또는 시장 남용에 기여하지 못하도록 하는 ‘킬(Kill) 기능”을 요구한다. 또한 기업들은 “알고리즘 거래 전략의 속성, 거래 파라미터 또는 한계의 세부사항, 주요 준수성 및 위험 관리, 시험의 세부사항에 관한 설명과 함께” 기록을 보존해야 한다. 그러면 FCA는 알고리즘 거래 기업이 이런 표준을 준수하도록 규제한다.

하지만 MiFID II는 내부에서 어떤 일이 일어나는지와 관련해 꽤 모호하다. 컴플라이언스 인원이 “최소한 해당 기업의 알고리즘 거래 시스템과 알고리즘이 작동하는 방식을 일반적으로 이해하고 후자에 대한 세부적인 지식이 있는 사람과 지속적으로 연락을 취해야 한다”라고 명시하고 있다. 그리고 머신 및 딥러닝 등의 첨단 기술은 거의 언급되지 않는다.

FCA와 MiFID II
2018년 2월 도매 시장에서의 알고리즘 거래 컴플라이언스(Algorithmic Trading Compliance in Wholesale Markets, pdf)에 관한 FCA의 출판물에서는 다음과 같이 명시돼 있다. “알고리즘 거래에 참여하는 모든 기업이 관련된 모든 비즈니스 측면에서 일관되게 적용하는 적절한 개발 및 시험 프레임워크를 유지해야 한다. 이는 기업들이 머신러닝 기법 등의 혁신적인 기술을 사용할 때 특히 중요하다.”

또 기업들은 반드시 “알고리즘에 대한 상당한 또는 중대한 변경사항을 정의 및 식별해야 한다.” 이 밖에 FCA는 기업들이 요청 시 14일 이내에 “알고리즘 거래 전략의 속성에 관한 설명”을 제공하도록 강제할 수 있다고 제시했다.

하지만 FCA는 딥 러닝 알고리즘의 디자이너조차도 “알고리즘 거래 전략의 속성에 대한 설명”을 제공하기 어렵다는 점을 인정하지 않는 것으로 보인다.

한편 FCA 문서에는 고급 데이터 기법을 직접적으로 언급하지는 않으며, 기업들의 책임에 대해서는 그리 명확하지 않다. 그 내용은 다음과 같다. “검토의 일환으로써 우리는 머신러닝 및 인공 지능의 발전도 고려한다. 이런 경우에 수행된 시장과 관련된 위험이 고조될 수 있으며 특히 기업들은 잠재적인 영향을 고려해야 한다.”

마지막으로 영국 기업들은 브렉시트(Brexit)가 가시화되는 상황에서 MiFID를 준수해야 할까? FCA는 영국이 공식적으로 EU에서 탈퇴할 때까지는 MiFID I 같은 EU 법률이 지속적으로 적용되며 기업들은 MiFID II 같은 새로운 EU 법률 제정의 이행을 위해 지속적으로 노력해야 한다고 명시했다.

변호사들의 의견
이 모든 것을 고려해볼 때, AI 관리 펀드의 고객은 알고리즘에 문제가 발생할 것 같은 경우 규제책 또는 이의 제기 절차를 이용할 수 있을까?

법률 기업 켐프 리틀(Kemp Little)의 금융 규제 책임자 제이콥 갠티는 컴퓨터월드 UK(Computerworld UK)에 이렇게 설명했다. “펀드의 부실한 실적이 반드시 징계 사안은 아니며 투자자의 이의 제기 근거가 되지 않는다. 펀드는 항상 성과가 낮으며 규제 위반이 아니며 규제 위반일 수도 있지만 관리자가 AI를 이용하거나 이용하지 않고 선택한 전략이 성공하지 못할 수도 있다.”

이에 대해 FCA는 투자 관리는 규제되는 활동이기 때문에 기업이 펀드 내에서 행하는 모든 것에는 MiFID II 등 기존의 규칙이 적용된다고 밝혔다. 좀 더 구체적으로 헤지 펀드는 AIFMD(Alternative Investment Fund Managers Directive)의 소관인 경향이 있다. 하지만 FCA는 컴퓨터월드 UK에 현 시점에서 인공지능 사용에 대한 구체적인 규칙이 없다고 밝혔다.

하지만 갠티는 FCA가 이런 신중한 접근방식을 취한 법적 선례가 있을 수 있다고 판단하고 있다. 그는 다음과 같이 설명했다.

“FCA는 관리자가 기술을 배치하는 방식에 대한 구체적인 체제가 없기 때문에 좀더 일반적으로 살펴볼 것이다. 전통적인 영국 법률 접근방식은 새로운 일련의 사실이 발생할 때 가장 오래 전에 수립된 법률 원칙을 적용하는 것이다. 따라서 영국 법률 하에서 기술에 적합한 새로운 종류의 법률을 제정하는 것은 드물다. 일반적으로 법원은 오래된 것처럼 보일 수 있는 법률 시스템을 통해 새로운 기술을 끼워 맞춘다.”

한편 FCA는 알고리즘에 결함이 있는 것으로 판단될 때 개입할 수 있다고 갠티는 진단했다. 그는 “FCA는 또 다른 내부 시스템의 측면에서 헤지 펀드 관리자를 살펴볼 수도 있으며 다른 모든 시스템과 마찬가지로 우리는 해당 기업이 고객의 이익 극대화를 추구할 의무에 있어서 합목적적인지 확인할 책임이 있다”라고 설명했다.

컴퓨터월드 UK는 AI와 관련된 규제 접근방식을 이해하기 위해 여러 번 시도했지만 FCA가 거부했으며 아무도 인터뷰에 응하지 않았다. 맨 그룹 또한 이 기사에 대한 의견 개진을 거부했다.

안전 장치
기업들로서는 자신이 배치하는 안전 장치 작업을 외부 세계와 논의하는 것을 꺼릴 수 밖에 없다.

맨 AHL이 알고리즘에 내장한 것에 대해 현재 알려진 정보는 블룸버그의 정보가 전부다. “준수성 및 위험 관리 규칙이 해당 시스템의 DNA에 깊이 뿌리내리고 있어 잘못되거나 수익을 위한 지름길로써 법률을 위반하는 일이 없도록 방지한다”라는 문구다.

이에 대해 켐프 리틀의 갠티는 이렇게 반문했다. “관리자는 이런 종류의 기법을 활용하여 내부 위험과 준수성 시스템을 검토해야 한다. 단지 투자자 앞에 적절한 문서를 내놓는 것이 아니라 내부적인 비즈니스 운영 방식도 중요하다. 그렇다면 그들은 적절한 내부적인 견제와 균형이 있고 이에 따라 시스템을 모니터링하는가? 그들은 능력이 있고 준수성 및 위험 기능의 사람들은 이런 프로그램의 활동을 모니터링할 능력이 있는가?”

맨 그룹 내에서 이런 기법의 활용을 개척하고 그 이후로 AHL의 최고 투자 경영자가 된 닉 그레인저(Nick Granger)는 블룸버그와의 인터뷰에서 안전 장치에 실행에 앞서 이례적인 거래에 대한 인간의 검토 그리고 엔지니어들이 AI가 특정 결정을 내릴 이유를 파악하는데 도움이 되는 부검 툴이 포함되기 때문에 조금은 이해가 가능할 수 있다고 주장했다.

그럼에도 불구하고 이 시스템의 이점은 ‘불가지성’(unknowability)이다. 펀드 매니저가 그 기능과 방법을 정확히 알고 있다면 해당 시스템이 우위를 점할 수 없기 때문이다. ciokr@idg.co.kr