Offcanvas

AI / 라이프 / 머신러닝|딥러닝 / 비즈니스|경제

EU AI 법 잠정 합의안 나왔다

2023.05.02 Shweta Sharma  |  Computerworld
유럽의회 구성원(MEP ; Members of the European Parliament )이 지난 4월 27일 AI 법안에 잠정 합의했다. 이로써 주요 입법 기관의 AI 규제가 세계 최초로 공식화될 전망이다. 

EU의 AI 법안 내용에 대해 논의해온 의원들은 생성형 AI와 관련된 몇 가지 조정을 통해 절충안 수정에 합의했다. 의회 관계자는 “수정된 절충안은 올해 5월 11일 표결에 부쳐질 것”이라며, “이후 6월에 본회의에서 표결될 예정이다. 그 후 연말까지 회원 국가 간 합의를 위한 협상이 시작된다”라고 설명했다. 

EU의 행정부 격인 유럽위원회는 2020년 초부터 AI에 대한 규제 프레임워크를 마련하기 위해 준비해왔다. 2021년 4월, 집행위는 EU 내 AI 시스템 개발 및 배포를 위한 포괄적인 법적 프레임워크를 제공하는 것을 목표로 하는 AI법 규정 초안을 제안했다. 

제안된 규정은 광범위한 AI 애플리케이션을 다루며, AI 사용에 대한 신뢰와 투명성을 증진하고, 기본권과 자유를 보호하며, AI 개발 및 배포에 있어 안전과 윤리적 원칙을 보장하는 것을 목적으로 한다. 

챗GPT 및 관련 AI에 대한 조정
이번 제안서에서는 범용 AI 시스템 대한 논쟁이 두드러졌다. 범용 AI 시스템은 다양한 작업을 처리하기 때문에 원래 제안서에는 포함되지 않았다. 그러나 텍스트 입력을 받아 컨텍스트 기반 응답을 반환하는 범용 생성 AI 모델인 챗GPT이 이목을 집중시키면서 논의가 활발해졌다.

MEP는 챗GPT, DALL-E, 미드저니(Midjourney)와 같은 생성 도구가 설계 및 배포 측면에서 EU 법률과 표현의 자유를 포함한 기본권에 부합하도록 규제되어야 한다는 데 동의했다. 이 법의 주요 변경 사항은 이러한 도구가 시스템 개발에 사용된 모든 저작권 자료를 공개해야 한다는 것이다.

이 법은 또 AI 모델에서 완화할 수 없는 위험과 이를 해결하지 못한 이유를 문서화하도록 의무화한다. 챗GPT 등이 피싱 자료, 인포스틸러 페이로드, 디도스 및 랜섬웨어 바이너리 스크립트 생성 등 악의적인 목적으로 사용될 수 있다는 우려가 제기되어 왔던 바 있다. 

한편 일부 전문가들은 이번 법안의 실효성에 대한 의문을 제기하고 있다. 챗GPT, DALL-E와 같은 대규모 언어 모델(LLM)을 기반으로 하는 시스템에 대한 규제가 핵심 기능에 영향을 주지 않을 수 있느냐는 질문이다. 

엔터프라이즈 매니지먼트의 애널리스트인 크리스 스테펜은 "간단히 말해, 솔루션의 효율성을 떨어뜨리지 않으면서 챗 GPT와 같은 것을 어떻게 규제할 수 있을지 모르겠다"라고 말했다. 

그는 이어 "또 악의적인 목적을 위해 특별히 만들어진 인스턴스는 어떻게 할까? 기술이 보편화되고 접근성이 높아지면, 악의적인 행위자들은 자신만의 '악의적인 채팅 AI'를 설정하여 원하는 모든 작업을 수행하고 이러한 목적에 최적화할 수 있을 것이다. 그렇다면 이 기술을 규제할 수 있을까? 그럴 가능성은 낮다"라고 덧붙였다. 

한편 이번 AI 법은 주로 기존 AI 솔루션을 위험도에 따라 허용 불가, 높음, 제한적, 최소로 분류하는 데 초점을 맞추고 있다. 스팸 필터나 비디오 게임에 사용되는 것과 같이 제한적이고 최소한의 위험만 있는 AI 시스템은 투명성만 확보된다면 몇 가지 요건만 충족하면 사용할 수 있다. 그러나 정부의 사회 점수 시스템이나 공공장소의 실시간 생체 인식 시스템에 사용되는 것과 같이 허용할 수 없는 위험을 초래하는 AI 시스템은 몇 가지 예외를 제외하고는 일반적으로 허용되지 않게 된다.

아울러 개발자와 사용자는 고위험 AI 시스템을 사용할 수 있지만, 철저한 테스트, 데이터 품질에 대한 적절한 문서화, 인적 감독을 명시한 책임 프레임워크를 의무화하는 규정을 준수해야 한다. 고위험 AI 시스템의 예로는 자율 주행 차량, 의료 기기, 중요 인프라 기계 등이 있다.

합의안은 5월 11일 투표 전에 약간의 조정을 거쳐 최종 확정되며, 모든 그룹은 타협안에 대해 투표해야 한다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.