머신러닝은 자동화된 관료주의?··· '설명을 요구할 권리'와 AI

‘설명을 요구할 권리’는 실제로 가능한가?
아무도 확실히 알 수 없다. 머신러닝 모델을 개발할 때 정확성과 설명 가능성이 양립할 수 없다는 것은 현재 잘 알려져 있다. 모델의 정확성이 높으면 높을수록 모델이 내리는 결정은 명백함이 떨어진다. 따라서 인간은 그러한 결정을 신뢰하기 어렵다. 많은 것이 걸려 있을 때 특히 그렇다.

전쟁터만큼 많은 것이 걸려 있는 곳은 없으므로 미 국방성의 비밀 실험실에서는 이 문제를 해결할 방법을 연구 중이다. 인터넷의 전신 APRANET의 개발자인 방위고등연구계획국(DARPA)은 2016년 ‘설명 가능한 AI’ 계획을 출범해 4년간 이 문제 해결 작업에 막대한 연구 자금을 투자했다.

DARPA의 제안요청서에는 “[AI] 시스템의 장점이 엄청나지만 그 효과가 제한적인 이유는 기계가 자신의 결정과 행동을 인간 사용자에게 설명할 수 없기 때문”이라고 나와 있다. 또한 제안요청서에는 “이 문제는 특히 국방성에게 중요하다… 앞으로 등장할 인공지능 파트너 세대를 사용자들이 이해하고 적절히 신뢰하고 효과적으로 관리하려면 설명 가능한 AI는 필수적이기 때문이다”라고도 명시돼 있다.



머신러닝은 그림이 나타내는 바를 이해하기 위해 특징을 분석한다. 데이터 패턴에 대해 알고 있는 내용을 지속해서 조정하기 때문에 결정을 내린 ‘이유’가 불분명할 수 있다.

DARPA에서 자금을 지원하는 연구는 GDPR 준수 영역에도 영향을 미칠 가능성이 높지만, 당분간 민간에서는 이와 관련은 있되 성격은 다른 우려 상황에 직면하게 된다. 즉, 의사 결정을 설명하는 행위의 결과로 보호 대상의 영업 비밀이 공개되거나 지적재산권을 위반하는 일이 발생할 수 있다. 책임과 혁신 장려 사이에 적절한 균형점을 찾는 것은 아직 해결되지 않은 문제다. 그런데도 시도해야 한다는 것이 파울스의 주장이다.

“어려우니까, 많은 경우 시스템이 복잡하니까, 라는 생각은 어떻게 실제 결과가 도출되는지 대한 설명을 회피하려는 핑계다. 이는 기술과 사회 정책을 역행하는 것”이라고 지적했다. “입증되지 않는 공공의 이익에 대한 약속 때문에 깊이 자리 잡고 매우 중요한 자율, 존엄, 사생활 등에 대한 권리를 포기하는가?”라고 반문했다.

GDPR은 AI 규제에 대해 의도적으로 모호하지만, 기본적으로 혁신을 장려하면서도 필요하다면 규제 당국이 충분히 개입할 힘을 유지하려는 듯하다. 와터는 다음과 같이 말했다. “유럽은 머신러닝 금지를 원하지 않는다. 애초의 목적은 머신러닝 금지가 아니다. 정보 수집 주체의 이익과 정보 주체의 이익 간에 균형을 유지하는 것이 총체적인 목표다.”

GDPR 설명을 요구할 권리: 의도된 모호함
지난 15년간 유럽 개인정보 보호 법률 관련 업무를 해 온, 샌프란시스코 소재 법률회사인 베너블즈(Venables) 소속 변호사 섀넌 야보스키는 GDPR의 모호함은 실수가 아닌 특징이라고 주장했다. 야보스키는 “GDPR이 여러 지점에서 구체성이 부족한 감은 분명히 있다”고 전제하며 “의도적인 측면도 있다. 기술이 발전할 여지를 남겨두기 원하기 때문”이라고 설명했다.

야보스키는 GDPR이 1995년 개인정보 보호 명령을 대체하며 옛 법률은 시대에 뒤떨어졌다고 말했다. 그동안 교훈을 얻은 유럽 입법 담당자들은 이제 특정 기술 설계 선택 사항을 없애기보다는 고급 원칙에 입각한 기술 규제를 목표로 하고 있다.

그러한 모호함으로 인해 해당 회사들은 불안함을 느낄지 모르지만, 법적으로 모호한 설명을 요구할 권리를 집행하는 것이 5월 GDPR 시행 시점에서 유럽 규제 당국의 우선순위는 결코 아니라고 야보스키는 강조했다. 그는 “인공지능과 머신러닝은 이제 초기 단계”라고 전제하고 “기술이 발전함에 따라 더욱 중요해지고 사회에 더 큰 영향을 미칠 가능성이 있다”고 덧붙였다.

GDPR 설명을 요구할 권리 집행
유럽 규제 당국은 GDPR을 집행할 작정이며 본보기로 첫 6개월에서 12개월 사이에 지독히 나쁜 행위자를 색출할 것임을 암시하고 있다. 그러나, 설명을 요구할 권리의 존재도 불확실하고 만일 설명을 요구할 권리가 존재한다면 어떤 의미인지도 불확실한 상태기 때문에 법정에서 다투기 전까지는 어디에 선이 그어질지 모른다고 봐야 한다.

와터는 “누군가가 언젠가는 고소하는 일이 발생할 것”으로 내다봤다. 시범 사례가 회원국의 법정에서 일어날 것이다. 그 회원국은 많은 국제 기업들이 유럽 본사를 두고 있는 아일랜드가 될 공산이 크다. 그녀는 “최종 판결이 유럽 법률의 최고 재판소인 유럽 사법 재판소에서 내려질 것”이라며 “그곳에서 판결을 내리고 체계의 해석 방식에 대해 발언할 것이다. 그때쯤이면 명확해질 것이다”고 덧붙였다. ciokr@idg.co.kr