Offcanvas

AI / 머신러닝|딥러닝 / 분쟁|갈등

딥페이크 우려 커지는 인도, 규제 본격화… “민주주의에 심각한 위협”

2023.11.24 김유성  |  CIO KR
인도 정부가 최근 불거진 딥페이크(deepfake) 문제와 관련해 회의를 열고, 이를 규제하는 방안을 마련하겠다고 밝혔다.
 
ⓒ Getty Images Bank

지난 23일 아쉬위니 바이쉬나우 인도 정보통신부 장관이 메타, 구글 등 소셜 미디어 대기업, IT 산업 비영리 단체 나스콤(Nasscom), 학계 인사들을 초청해 회의를 진행했다. 회의는 딥페이크 콘텐츠 및 기타 유해한 AI 미디어의 확산을 방지하고 극복하는 전략에 중점을 뒀다.

바이쉬나우 장관은 딥페이크 동영상과 관련 애플리케이션의 규제가 필요하는 데 공감대가 형성됐다고 밝혔다. 그는 “기업들도 우리와 마찬가지로 이를 우려하고 있다. 이는 전 세계의 민주주의와 사회 기관에 대한 심각한 위협이다. 참석자는 딥페이크에 대해 더 강력한 규제가 필요하다고 동의했으며, 조만간 규제 초안을 마련할 것이다”라고 설명했다.

인도에서는 최근 딥페이크에 대한 우려의 목소리가 점점 커지고 있다. 배우 라쉬미카 만다나는 X(구 트위터)를 통해 “많은 사람이 신원 도용의 피해를 입기 전에 긴급히 문제를 해결해야 한다”라고 경고했다. 

나렌드라 모디 총리 역시 지난주 열린 ‘보이스 오브 글로벌 사우스 서밋(Voice of Global South Summit)’ 연설에서 딥페이크의 위험성에 대해 언급했다. 그는 “AI의 부정적인 사용에 대해 전 세계가 우려하고 있다. 딥페이크의 심각성을 이해하고 책임감 있는 방식으로 기술을 사용해야 한다”라고 강조했다.

바이쉬나우 장관은 정보통신부가 10일 내에 딥페이크에 대처하는 방법에 대한 ‘명확하게 실행 가능한 항목’을 준비하겠다고 밝혔다. 그에 따르면 새 규정은 개인이 딥페이크로 제작된 동영상을 신고할 수 있는 메커니즘을 강화하고, 소셜 미디어 회사가 선제적이고 시의적절한 조치를 취하는 데 초점을 맞춘다. 또한 규제를 어길 경우 벌금을 부과하고 제작자에게 책임을 묻는 방안도 검토하고 있다.

정보통신부와 소셜 미디어 기업 간의 추가 회의는 12월 중 진행될 예정이다. 바이쉬나우 장관은 "피해는 매우 즉각적일 수 있기 때문에 더 적극적인 조치가 필요하다"라며, 신고 후 ‘몇 시간’ 뒤 조치를 취하는 것만으로는 불충분하다고 덧붙였다. yuseong_kim@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.