유럽의회, 세계 첫 AI 규제법 승인··· 기업에 미치는 영향은?

EU의 AI 규제법은 신뢰할 수 있는 AI의 구축을 목표로 한다. 여기에는 혁신을 촉진하려는 목적도 있다. 
 

유럽의회가 수개월 간의 논쟁 끝에 인공지능(AI)을 규제하는 포괄적인 법안을 승인했다. 지난 13일 개최된 회의에서 유럽의회 의원(MEP)들은 찬성 523표, 반대 46표, 기권 39표로 법안을 통과시켰다.

최종안에 따르면 AI 규제법은 "인간 중심적이고 신뢰할 수 있는 AI의 활용을 촉진하는 동시에 AI 시스템의 유해한 영향으로부터 보건, 안전, 기본권 및 환경 보전을 위한 높은 수준의 보호를 보장"하는 것을 목표로 한다.

또한 부수적이지만 '혁신을 지원하는' 역할도 맡는다.

엄격한 처벌
이 법안은 EU에서 비즈니스를 수행하는 모든 기업에 적용된다. 이를 따르지 않는 기업에는 연간 매출액의 최대 7% 또는 3,500만 유로 중 높은 금액의 벌금이 부과될 수 있다.

공개 토론에서는 법 집행 기관의 AI 생체 인식 시스템 사용 제한이 논쟁의 주요 대상이었지만, 사회적 점수 매기기, 사용자 취약점을 악용하거나 조작하기 위해 AI를 상업적으로 사용하는 행위를 금지한다는 내용에도 많은 의견이 이어졌다.

유럽의회는 AI 규제법이 소비자가 기업의 부적절한 AI 사용에 불만을 제기하고, AI가 소비자의 권리에 영향을 미치는 결정을 내릴 경우 '의미 있는 설명'을 들을 권리를 보장한다고 밝혔다.

최종 법안의 '의미 있는 설명' 항목에서 정의하는 AI는 "다양한 수준의 자율성을 갖고 작동하도록 설계되고 배포 후 적응력을 발휘할 수 있는 기계 기반 시스템으로, 명시적 또는 암묵적 목표를 위해 AI가 수신한 입력으로부터 물리적 또는 가상 환경에 영향을 미칠 수 있는 예측, 콘텐츠, 권장 사항, 결정과 같은 출력을 생성하는 방법을 추론하는 시스템"이다.

한편 의원들은 최종 법안에서 특정 금지 관행도 마련했다. 이에 따르면 인터넷이나 CCTV에서 얼굴 이미지를 스크랩해 얼굴 인식 데이터베이스, 사회적 점수 매기기, 사람의 행동을 조작하거나 취약점을 악용하는 AI를 만드는 행위가 금지된다. 다만 테러 공격과 같은 심각한 범죄에서는 행정당국이 AI를 이용할 수 있다는 예외 조항이 적용된다.

사용 금지는 아니지만 고위험으로 분류된 AI 적용 분야도 있다. 중요 인프라, 교육 및 직업 훈련, 고용, 의료, 은행과 같은 필수 서비스, 법 집행, 이주 및 국경 관리, 사법 및 민주적 절차 등에서의 사용이 그렇다.

업무 환경에서의 AI 제한
이번 법안에는 '힘의 불균형'으로 어려움을 겪는 근로자를 보호하는 명시적 조항도 마련됐다. 이에 따라 AI 시스템은 직장이나 교육 현장에서 감정을 인식하는 데 사용할 수 없다.

법은 "AI 시스템의 침범적 특성은 ... 특정 개인 또는 그 집단 전체에 해롭거나 불리한 대우를 야기할 수 있다. 따라서 직장 및 교육과 관련된 상황에서 개인의 감정 상태를 감지하는 데 사용하는 AI 시스템을 시장에 출시하거나, 서비스에 투입하거나 사용하는 것은 금지된다. 다만 치료용 시스템처럼 의료 또는 안전상의 이유로 엄격한 절차 아래 시장에 출시된 AI 시스템은 예외로 한다"라고 명시했다.

의회 내부 시장 위원회를 통해 법 조정을 담당하는 공동 보고자인 브랜도 베니페이는 "근로자와 노조는 AI 사용에 대한 정보를 제공받아야 하며 AI가 생성하는 모든 콘텐츠는 명확하게 표시돼야 한다. 또한 시민들은 설명을 듣고 집단 구제 절차를 이용할 권리를 가지며, 배포자는 AI 시스템이 기본권에 미치는 영향을 평가해야 할 의무를 지게 될 것"이라고 설명했다.

빅 테크의 관심사
모두가 법안에 찬성한 것은 아니었다. 유럽의회의 진보 성향 의원들은 이 규제가 너무 성급히 만들어졌으며 "시민의 안전보다 빅 테크의 이익을 우선시하는 법"이기 때문에 기업이 할 수 있는 일을 확실하게 제한하지 못했다고 지적했다.

이들은 "기업은 시장에 출시하는 AI 시스템이 고위험군인지 아닌지를 스스로 평가해야 할 것이다. 위험한 제품에 대해서는 시민의 이익을 최우선으로 고려하도록 AI 규제를 대폭 개선해야 한다"라고 주장했다.

최종 법안에는 중소기업과 스타트업이 시장 출시 전 AI를 개발하고 훈련할 수 있도록 국가 차원에서 규제 샌드박스, 실제 테스트 등을 지원하는 조치도 포함됐다.

이 조치는 반대 세력을 달래기는커녕 일부 의원을 놀라게 했다. 진보 성향 의원인 카트리나 코네치나는 "이 규정은 특정 조건 아래 AI 시스템을 개발하는 기업이 거리나 온라인 같은 실제 환경에서 제품을 자유롭게 테스트할 수 있도록 허용한다. 따라서 시민의 안전을 제쳐두고 부유층의 이익을 중심에 두고 있다"라고 비판했다.

AI 규제법이 EU 법률로 발효되려면 27개 회원국이 국가 원수 또는 정부 수반으로 구성된 유럽 이사회에서 최종 문안을 공식적으로 채택해야 한다. 또 모든 조항이 해당 날짜에 즉시 적용되는 것은 아니다. 금지 관행은 6개월 뒤, 실천 강령은 9개월 뒤, 범용 AI 규정은 12개월 뒤, 고위험 시스템에 대한 의무는 36개월 뒤에 발효될 예정이다.

그때까지 EU는 특별 'AI 사무소(AI Office)'를 설치해 기업이 규정 준수를 시작할 수 있도록 지원할 예정이다. ciokr@idg.co.kr