Offcanvas

AI / 신기술|미래

유엔 안보리 AI 위험성 첫 논의… “윤리적 규제 조율해야”

2023.07.20 Charlotte Trueman  |  Computerworld
유엔 안전보장이사회가 현재와 미래의 인공지능(AI) 애플리케이션이 가져올 혜택과 문제에 대해 전문가들과 논의했다.



유엔 안전보장이사회(안보리)가 최근 AI 관련 공개 회의를 열었다. AI의 잠재적 이익과 위험성에 대해 전문가들과 의견을 나눴다. 회의에서는 전 세계 국가들의 기술 규제 노력을 조율할 필요성이 강조됐다.

의장국인 영국의 제임스 클레벌리 외무장관이 지난 18일 주재한 유엔 안보리 회의에는 안토니우 구테흐스 유엔 사무총장, 15개 이사국이 참여했다. AI 기업 앤트로픽의 공동 설립자 잭 클라크와 중국-영국 AI 윤리 및 거버넌스 연구센터 공동 책임자 이쩡 교수 등 현직 인공지능 전문가도 참석해 견해를 밝혔다.

유엔 안전보장이사회는 중국, 프랑스, 러시아, 영국, 미국 등 상임이사국 5개국과 2년 임기로 선출되는 비상임이사국 10개국으로 구성된다. 현재 비상임이사국은 가나, 가봉, 모잠비크, 몰타, 스위스, 아랍에미리트, 알바니아, 에콰도르, 일본, 브라질이다.

패널들은 회의에서 국제 AI 거버넌스를 위한 윤리적이고 책임감 있는 프레임워크 구축이 필요하다고 강조했다. 영국과 미국은 이미 AI 규제에 대한 입장을 정리하고 있다. 중국에서는 올해 정부가 기술 관련 새 법률을 시행한 후 최소 한 건의 체포 사건이 발생했다. 비상임이사국 중 유일하게 EU 회원국 신분인 몰타는, 지난달 투표로 초안이 확정된 EU의 AI법이 적용될 예정이다.

이사회가 회의 이후 발표한 성명에 따르면 클라크 장관은 AI가 분명한 이점을 가져다줄 수 있지만, 오용 가능성과 예측 불가능성 때문에 평화, 안보, 글로벌 안정에 위협이 될 수 있다고 지적했다.

그는 “인공지능 개발을 민간 부문에만 맡길 수는 없다”라며 정부 차원의 투자와 규제가 없으면 국제 사회가 소수의 민간 기업에게 미래를 넘겨줄 위험이 있다고 덧붙였다.

이사회는 기후 위기 모니터링부터 의학 연구 혁신에 이르기까지 AI가 제시하는 다양한 기회에 대해 논의한 것으로 알려졌다. 한편 이후 발표된 내용에 따르면 AI가 잠재적으로 잘못된 정보를 퍼뜨리거나 국가간 악성 사이버 작전을 조장할 수 있다는 우려도 나왔다.

이사회는 자율 무기 시스템 같은 요소 기술의 군사적 적용에 있어 사람의 의사 결정권을 유지하는 것이 중요하다고 강조했다.

AI의 편향성 문제 해결
안토니우 구테흐스 유엔 사무총장에 따르면, 금융 업계는 AI가 2030년까지 세계 경제에 최대 15조 달러 수준을 기여할 것으로 추산하고 있다. 현재 전 세계 대부분의 정부, 대기업, 조직이 관련 전략을 수립하고 있다는 점에서도 AI 기술의 영향력을 확인할 수 있다고 그는 말했다.

구테흐스 사무총장은 올해 초 마르그레테 베스타게르 EU 경쟁담당 집행위원의 발언을 인용했다. 그에 따르면 유엔 인권 고등판무관실은 AI가 편향성을 증폭하고 차별을 강화하며 새로운 수준의 권위주의적 감시를 구현할 가능성이 있다고 우려하고 있다. 

구테흐스 사무총장은 “[생성형 AI]가 허위 정보와 혐오 발언의 온상이 될 수 있다”라고 말하며 각국 정부가 사회, 디지털, 경제적 격차를 해소하는 AI 개발에 협력해야 한다고 말했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.