Offcanvas
2018.07.24 Thomas Macaulay  |  Techworld


로봇 사무원
이처럼 자동화는 판결 과정에서 개인적인 편견을 완전히 배제할 수 있다. 그러나 체계적 편향이 확대, 재생산될 우려는 여전히 남아 있다. 프로퍼블리카의 연구 결과에서 알 수 있듯, 이미 리스크 평가 소프트웨어들에는 인종 차별적인 데이터가 반영되어 있다.

애쉬는 “단순히 그 데이터들을 빼버리면 되는 그런 간단한 문제가 아니다. 피고나 원고의 인종이나 사는 곳 주소를 무시하라고 명령한다고 될 일이 아니다. 왜냐하면 그 어떤 변수를 도입하더라도 그것이 결국은 다른 요소들과 연결되기 때문이다. 시스템의 그 어떤 사소한 편견이라도 자동화된 의사결정을 통해 재생산될 가능성이 높다. 자동화 시스템에 인력의 개입이 필요한 중요한 이유가 바로 여기에 있다"고 설명했다.

그 외에도 여러 가지 한계가 존재한다. 자동화 의사 결정 시스템은 일종의 블랙박스와도 같아서 어떻게 그러한 결정에 도달하게 되었는가를 설명해주지 않는다. 또 시스템에 대해 잘 아는 내부자가 알고리즘을 조작하는 것도 가능하다. 혹은, 누군가 자신이 원하는 결과를 내어 줄 가능성이 높은 시스템 모델을 ‘선택’할 가능성도 있다.

그렇다고 시스템을 오픈소스로 전환하면, 판결 내용을 설명하고 예측하는 것이 더 쉬워질 것이다.

애쉬는 “일종의 절충안으로, 증거에 대한 실제 가중치는 배타적으로 유지하되 이러한 매개 변수를 설립하는 데 사용되는 실제 코드는 오픈소스화하는 방안이 있다. 나는 개인적으로 이쪽을 지지하고 싶다”고 밝혔다.

가끔 이례적이거나 특이한 사건의 경우 시스템이 판단을 내리는 데 애를 먹을 수도 있다. 흔하지 않은 상황이나 사례일수록 분석하기가 어렵다. 또 알고리즘은 법이나 도덕적 규범의 변화에 적응하기도 쉽지 않다.

혹은, 판사들이 기술을 지나치게 신뢰하고 의존하여 아예 비판적 사고를 그만둬 버릴 위험도 있다. 이처럼 기계를 전적으로 신임하고 모든 것을 일임하는 순간 사건에 연루된 모든 당사자가 위험해진다. 중국에서는 실제로는 인간 판사가 내린 판결임에도 불구하고 그것을 자동화된 기계가 내린 판결이라고 포장하여 판결 내용에 대한 신뢰를 얻는 일도 왕왕 있다고 애쉬는 말했다.

애쉬는 로봇 사무원이 법률 서비스 자동화에 대한 훌륭한 단기적 대안이 될 수 있다고 보고 있다. 로봇 사무원은 다른 판사들이 비슷한 사건에서 어떤 판결을 내렸는지, 분명한 결과가 나온 판례들에 어떤 패턴이 있는지 등을 빠르고 정확하게 파악하여 알려줄 수 있다. 또 로봇 사무원 스스로 분석에 대한 ‘확신의 정도’를 병기하도록 하여 인간 판사가 로봇 사무원이 제공한 조언을 따를 것인지 판단하도록 할 수도 있을 것이다.

애쉬는 “그런다고 판사가 마음을 바꾸지 않을지도 모르지만, 최소한 한번 더 생각하는 계기는 될 것이다”라고 밝혔다.

AI 판사
“물론 그보다 복잡한 방법도 있다. 법을 이해하고, 적용하며, 법리를 설명하고, 사회적 결과를 개선하기 위한 최적의 사회 정책 개발 과정을 지닌 법률 인공지능이 그것이다”고 애쉬는 덧붙였다.

진정한 의미에서의 인공지능은 인간의 도움 없이도 스스로 학습하고, 판단을 내릴 수 있으며, 무엇보다 인간이 지닌 도덕 관념이나 정책 목표에 구애받지 않을 수 있기 때문에 이러한 ‘인공지능 판사’라는 개념은 로봇 사무원이 지니는 리스크를 극대화 해놓은 어떤 것이 될 수도 있다.

애쉬는 “이 모든 것은 아직 증명된 적 없는 기술들이다. AI 역시 논쟁의 여지는 다분하다. 왜냐하면 우리는 ‘정의’가 인간과 기계를 구분 짓는 중요한 요소라고 믿기 때문이다. 그런데 만약 로봇 판사가 나타나 가치 판단을 내리기 시작한다면, 이는 많은 이들의 신경을 거스를 수도 있는 민감한 문제가 된다. 그러나 언제가 될지는 몰라도, 결국 인공지능 판사는 등장할 것이다. 이미 기술 트렌드가 그쪽으로 향하고 있다”고 이야기했다.

이어서 “현재 우리가 궁금한 것은 행동 지침이다. 민주적이고 비영리적인 오픈소스 솔루션이 필요하며 민간 부문과 공공 부문, 그리고 학계 간의 커뮤니티를 발전시켜 이러한 솔루션을 적절하게 활용할 수 있어야 한다”고 덧붙였다. ciokr@idg.co.kr

CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.