Offcanvas

AI / 머신러닝|딥러닝 / 비즈니스|경제

'규제 시스템 차이 최소화'… 미국-EU, AI 규제에 대한 공동 방향 합의

2024.04.08 John Leyden  |  CIO KR
미국과 유럽연합(EU)이 더 안전한 AI를 위해 상호 운용 가능한 국제 표준을 만들도록 협력할 계획이다.
 
ⓒ Getty Images Bank

EU와 미국이 지난 5일 벨기에 루벤에서 열린 EU-미국 무역기술위원회 회의에서 안전과 거버넌스에 중점을 두고 AI 기반 기술 개발을 위한 협력을 강화하기로 합의했다.

이번 발표에 앞서 미국과 영국은 AI 안전에 관한 광범위한 협정을 맺은 바 있다.

EU와 미국은 벤치마크 개발 및 잠재적 위험 평가와 같은 분야에서 양쪽의 AI 전문가 간의 과학적 정보 교류를 촉진할 계획이다. '안전하고 신뢰할 수 있는' AI 기술을 개발하는 데 중점을 두고 있다.

상호 운용 가능한 규제 환경 개발
양측은 각자 새로운 AI 거버넌스 및 규제 시스템의 차이를 최소화하기로 합의했다.

EU와 미국은 성명을 통해 "미국 과학 기관과 EU 집행위원회 부서 및 기관이 공동으로 구성한 실무 그룹은 기상 이변, 에너지, 비상 대응 및 재건 분야의 결과물에 대한 중요한 이정표를 정의하는 상당한 진전을 이뤘다"라며 AI 애플리케이션에 대한 기존 협력의 영역을 설명했다.

원활한 협업을 위해서는 용어의 의미에 대한 합의가 필요하다. 이를 위해 양측은 AI에 대한 EU-미국 용어 및 분류 체계의 업데이트 버전을 발표했다. 현재 다운로드할 수 있다.

한편 EU는 최근 승인된 AI 법을 통해 지역 내 인공지능 개발을 규제할 방침이다.

미국에서는 구글, 마이크로소프트, 오픈AI 등 대기업이 AI 규제를 요구하고 있지만, 의회 간 갈등으로 인해 11월 새로운 의회 선거 전까지는 합의가 이뤄질 가능성이 낮다. 다만 미국 정부는 연방 기관의 AI 활용 전략을 개발해 자체적인 조치를 마련하고 있다.

AI 가드레일
CIO닷컴의 설문조사에 응한 전문가들은 EU와 미국 간의 합의를 빠르게 변화하는 AI 기술 분야의 발전으로 보고 긍정적인 평가를 내렸다.

IT 보안 컨설팅 기업 스택아머의 CEO 겸 설립자이자 미국 AI 안전 연구소 컨소시엄의 일원인 가우라브 팔은 CIO닷컴에 "이는 EU와 미국 간 공통의 AI 가드레일과 프레임워크를 개발하는 데 중요한 단계"라고 설명했다.

또한 그는 "이를 통해 미국 AI 기업이 미국과 EU 사이에서 비즈니스를 수행하는 데 있어 사일로와 마찰을 피할 수 있기를 기대한다"라고 덧붙였다.

GDPR이 EU에서 비즈니스를 수행하는 미국 기업에 영향을 미친 것과 마찬가지로 이번 합의는 여러 부문에서 비즈니스 운영에 영향을 미칠 가능성이 높다. 따라서 비즈니스 리더는 AI와 관련해 빠르게 늘고 있는 규제 프레임워크를 파악하고 있어야 한다.

팔은 대서양 양쪽에서 AI 규제 간 충돌을 벗어나려는 이런 움직임을 환영할 만하다고 말했다. 그는 "이 협정은 공통의 규제 표준과 프레임워크를 개발해 규정 준수에 드는 비용과 복잡성을 줄이려는 것이므로 매우 중요하다"라고 언급했다.

연구자들은 AI에 대한 미국과 EU의 협력을 조심스럽게 반겼지만, 구체적인 내용에 대해서는 더 자세히 살펴봐야 한다고 지적했다.

영국 맨체스터 대학교의 머신러닝 및 로봇공학 교수인 안젤로 칸젤로시는 CIO닷컴에 "AI 규제를 위해서는 국제 사회와 정부가 일련의 규제 프로세스와 기관에 합의하기 위한 공동의 노력이 필요하다"라고 말했다.

그는 또한 "최근 영국과 미국의 합의는 이러한 방향으로 나아가는 좋은 단계지만, 현재로서는 실질적 단계에 대한 세부 사항이 명확하지 않다. 더 넓은 국제적 수준, 예를 들어 EU AI 기관과의 통합과 더 넓은 UN 프레임워크에서 이러한 노력이 계속되길 바란다"라고 덧붙였다.

AI 오용의 위험
도미노 데이터 연구소의 AI 전략 책임자인 켈 칼슨 박사는 상업용 AI 제품의 규제에 초점을 맞추면 범죄자가 AI를 오용해 딥페이크나 더 그럴 듯한 피싱 사기를 개발하는, 실질적인 위협을 놓칠 수 있다고 지적했다.

그는 "안타깝게도 EU AI 법과 같이 제안된 AI 규제는 주로 범죄자가 사용하지 않는 상업용 AI 제품에 초점을 맞추기 때문에 위협에 효과적으로 대처할 수 있는 규제가 거의 없다. 따라서 이러한 규제 노력 중 상당수가 혁신을 저해하고 비용을 증가시킬 뿐 실제 안전 개선에 별로 도움이 되지 않는다"라고 말했다.

이를 해결하기 위해 칼슨은 "AI 개발의 현 단계에서는 규제보다 테스트와 안전에 대한 투자가 훨씬 효과적일 것"이라고 말했다. 그는 새로운 AI 안전 기관을 통해 AI 모델을 효과적으로 테스트하고 위험을 완화하며 안전을 보장하는 방법을 연구하는 것이 AI 개발자의 경쟁력을 육성하는 동시에 안전을 보장할 수 있는 "훌륭한 공공 투자"라고 설명했다.

법적 과제
많은 주류 기업이 데이터를 분석, 변환, 심지어 생산하기 위해 AI를 사용한다. 이러한 발전은 이미 수많은 분야에서 법적 문제를 야기하고 있다.

법률 기업 나이츠(Knights)의 파트너로 AI, IP 및 IT 문제 전문인 벤 트래버스는 "기업은 데이터 보호, IP 및 IT 조달 관련 정책 등 다른 정책과 연계된 AI 정책을 수립해야 한다. 정책에는 어떤 직원이 AI에 참여할 수 있는지, 또 참여할 수 없는 직원은 누구인지 등의 규칙이 명시돼야 한다"라고 말했다.

최근 직원들이 보호 대상 또는 기밀 정보를 AI 도구에 업로드할 경우 기업이 처할 위험에 대한 인식이 높아졌다. 또한 저작권 침해 같은 영역에서도 문제가 제기되고 있다. 트래버스는 "기업은 이러한 위험을 어떻게 해결할 것인지 결정하고, 이를 관련 정책에 반영하고, 정책을 직원에게 전달해야 한다"라고 덧붙였다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.