'같은 듯 다른' 유럽과 미국의 생성형 AI 규제 동향과 시사점

유럽연합(EU)은 생성형 AI 플랫폼을 개발하는 업체에 책임을 물을 수 있는 법안을 마무리하고 있다. 법안이 제정될 경우, 생성형 AI 개발 업체는 플랫폼이 제작하는 모든 종류의 콘텐츠에 사용된 저작권 보호 자료를 의무적으로 공시해야 한다. 또한 콘텐츠 원작자는 자신의 콘텐츠가 생성형 AI 애플리케이션에 의해 사용된 결과로 발생하는 수익을 분배받을 수 있다.
 

EU의 ‘인공지능법(AI 법)’은 동종 최초의 법으로 GDPR(General Data Protection Regulation), DSA(Digital Services Act), DMA(Digital Markets Act)와 같은 기존 규칙에 크게 의존한다. 2021년 4월 유럽위원회(EC)에서 입법 제안됐다.

AI 법은 GPT-4와 같은 AI 기술의 기반이 되는 LLM(Large Language Model)이 EU 법을 위반하는 콘텐츠를 생성하지 않도록 적절한 안전조치 설계를 의무화하고 있다. 워싱턴 포스트에 따르면, EU 법을 위반하는 콘텐츠의 대표적인 예는 아동 포르노, 일부 EU 국가의 경우에는 홀로코스트 부인 등이다.

AI 법을 위반할 경우 최대 3,000만 유로 또는 전 세계 수익의 6% 중에서 높은 금액을 벌금으로 내야 한다. 로이터는 “오픈AI를 후원하는 마이크로소프트 같은 회사가 규칙을 위반할 경우 벌금 액수는 100억 달러를 넘을 수 있다”라고 말했다.
 
그러나 AI가 규칙을 지키게 하는 일은 쉽지 않을 것으로 보인다. 가트너 리서치 VP 아비바 리탄은 저작권 보호 자료를 걸러 내기 위한 규칙 기반 시스템은 효과가 없을 가능성이 높다며, 오픈AI를 비롯한 LLM 개발 업체들은 최초에 훈련된 LLM에 저작권 보호 자료가 없는지 확인할 강력한 LLM을 개발해야 할 것이라고 지적했다.

현재 EU는 공정하고 위험이 관리되는 AI 사용을 규율하는 데 있어 세계를 선도하는 접근 방식을 마련하고 AI 법을 개선하는 데 여념이 없다. 하지만 라탄은 규제 당국이 LLM이 사실상 블랙박스로 작동하고 있다는 사실과 필수 개인정보 영향 평가에 필요한 투명성을 제공할 가능성이 낮다는 사실을 고려해야 한다며, “반드시 해결해야 하는 문제”라고 강조했다.

이어 “흥미롭게도 한때 AI 법은 생성형 AI 모델의 감독을 배제하려고 했으나 나중에 포함했다. 일반적으로 규제 당국은 사회 보호라는 목적을 달성하면서도 그 수단은 지나치게 규제하지 않는, 오래 지속될 수 있는 규칙을 만드는 한편, 혁신을 억누르지 않기 위해서 신중하고 체계적으로 행동하고자 하는 것”이라고 덧붙였다.

유럽과는 다른 미국의 접근 방식

지난 4월 1일, 이탈리아는 서양 국가 중 최초로 프라이버시 우려를 이유로 챗GPT의 추가 개발을 금지했다(단, 최근 금지 조치를 해제했다). 챗GPT의 추가 개발이 처음 금지된 것은 자연어 처리 앱에서 사용자 대화 및 결제 정보와 관련된 데이터 유출 사고를 겪은 후였다. 챗GPT는 오픈AI가 제작한 인기 있는 챗봇으로, 마이크로소프트가 수십억 달러를 투자했다.

비슷한 시기 미국 정부와 중국 정부에서도 AI 규제와 관련된 발표가 있었다. 리탄은 “미국과 EU는 믿을 수 있고 투명하며, 공정한 AI를 달성하고자 한다는 개념에는 서로 일치하지만, 접근 방식은 판이하다”라고 설명했다. 리탄은 지금까지 미국이 “분산된 AI 위험 관리 접근 방식”을 취해 왔다고 보고 있다. 미국은 아직 새로운 규정이나 규제 인프라를 만들지 않았으며, 가이드라인과 AI 위험 관리 프레임워크에 집중하고 있다.

미국에서는 올해 1월 국립표준기술연구소(NIST)가 ‘인공지능 관리 프레임워크’를 공개한 데 이어, 2월에는 연방기관들이 공정성과 시민의 평등권을 발전시키는 방향으로 AI를 사용할 것을 지시하는 백악관 행정 명령이 발령됐다. 미국 의회는 연방 알고리즘 책임법을 고려 중이다. 해당 법안이 통과되면, 고용주는 개인의 고용 접근성과 조건 또는 가용성에 중대한 영향을 미치는 자동화된 의사결정 시스템에 대한 영향 평가를 의무적으로 수행해야 한다.

미국 상무부 소속 전기통신 및 정보청(NTIA)도 AI 시스템의 책임을 가장 잘 물을 수 있는 정책에 대한 공개 의견 요청서를 발표했으며, 각 주와 지방 정부는 개인정보 보호와 편향 문제 때문에 AI 기반 봇을 취업 지원자 물색, 선별, 면접, 채용에 사용하는 것을 제한하는 방안을 검토 중이다. 일부 주에서는 이미 그런 법률을 제정했다.

규제 당국이 해결해야 할 생성형 AI의 문제

마이크로소프트와 알파벳은 생성형 AI 챗봇을 기업과 소비자에게 제공하기 위한 경쟁을 벌이고 있다. 가장 발전된 생성형 AI 엔진은 사용자 프롬프트, 즉 사용자가 입력하는 내용을 기반으로 자신만의 콘텐츠를 생성한다. AI에 마케팅 또는 광고 캠페인 제작, 에세이 작성, 현실적인 사진 이미지 및 동영상 제작 등의 작업을 맡길 수 있다.

EU AI 법의 핵심은 AI 기술이 사람의 건강과 안전 또는 기본 권리에 미칠 수 있는 위험 수준을 판단하는 분류 시스템이다. 세계경제포럼에 따르면, 이런 프레임워크는 위험 단계를 ‘용납 불가’, ‘높음,’ ‘제한됨’, ‘최소’ 등 4단계로 분류한다.

가트너에 따르면, 규제 당국이 유념해야 할 생성형 AI 플랫폼 관련 문제는 다음과 같다.
 

• GPT 모델은 설명할 수 없음 : 모델 출력물은 예측 불가능하다. 모델 업체조차도 모델이 내부적으로 작동하는 방식을 전부 이해하는 것은 아니다. 설명 가능성 또는 예측 가능성은 모델 투명성의 전제 조건이다.
• 부정확한 허구 답변 : 부정확성과 착각의 위험을 완화하려면, 챗GPT/생성형AI가 생성한 출력물을 수용하기 전에 정확성, 적정성, 실제적인 유용성을 평가해야 한다.
• 잠재적인 기밀 데이터 침해 : 기밀 기업 정보가 가령 저장된 프롬프트 형태로 침해되지 않는다고 입증할 수 있는 데이터 관리 및 보호 확약이 없다.
• 모델 및 출력물 편향 : 모델 개발자와 사용자는 편향된 출력물을 탐지하고 이를 회사 정책 및 관련 법적 요건에 맞게 처리하기 위한 정책이나 통제장치를 반드시 마련해야 한다.
• 지적재산권 및 저작권 위험 : 모델 개발자와 사용자는 출력물을 검토하여 저작권이나 지적재산권을 침해하지 않는지 확인한 후에 사용해야 하며, 챗GPT/생성형 AI에 적용되는 저작권 법의 변경 사항을 적극적으로 추적 관찰해야 한다. 사용자는 이제 챗GPT 출력물에 있는 저작권 보호 자료를 알아서 걸러내야 한다.
• 사이버 및 사기 위험 : 범죄자가 사이버 및 사기 공격에 사용할 수 없도록 시스템을 강화해야 한다.

2022년 11월 오픈AI에서 출시한 챗GPT는 사용자의 질의에 사람처럼 심도 있게 응답하는 정교한 능력 덕분에 즉시 입소문을 탔고 단 5일만에 사용자가 1백만 명을 돌파했다. 웹사이트 테스트 업체 툴테스터(Tooltester)에 따르면, 챗GPT 웹사이트는 현재 월 방문자가 10억 명, 활성 사용자는 1억 명인 것으로 추산된다.

언스트 앤 영(Ernst & Young) 글로벌 AI 컨설팅 리더 댄 디아지오는 챗봇이 사람처럼 응답하는 것처럼 보일지 몰라도 챗GPT는 지각이 없으며, 다음 단어를 예측하는 엔진일 뿐임을 염두에 두고 사용에 주의할 것을 촉구했다.

하지만 AI 기술이 맹렬한 속도로 발전함에 따라 AGI(Artificial General Intelligence)라는 더욱 정교한 알고리즘이 등장할 것으로 예측된다. AGI는 스스로 생각할 수 있고 시간이 지나면서 기하급수적으로 똑똑해질 수 있다.

생성형 AI 기술이 지나치게 발전하면 이를 통제할 능력을 상실할 수도 있다고 우려한 수천 명의 기술 전문가는 최근 공개서한을 통해 생성형 AI 기술 개발의 중단을 촉구했다. 비영리 단체 FLI(Future of Life Institute)에서 공개한 이 공개서한은 샌프란시스코에 위치한 오픈AI 랩이 최근에 발표한 GPT-4 알고리즘을 구체적으로 지목하며 오픈AI는 감독 기준이 마련될 때까지 추가 개발을 중단해야 한다고 역설했다. 애플 공동 창립자 스티브 워즈니악을 비롯해 2만 7,000명 이상이 서명했다.

EU 내부시장 담당 집행위원 티에리 브레톤은 2021년 성명서에서 AI는 나온 지 수십 년이 되었지만 이제 “컴퓨팅 파워에 힘입어 새로운 능력에 도달했다. AI 법은 유럽에서 AI가 우리의 가치와 규칙을 존중하도록 조치하고 AI의 잠재력을 산업용으로 활용하기 위해 제정되었다”라고 설명했다.
editor@itworld.co.kr