Offcanvas

AI / 머신러닝|딥러닝 / 보안

영국, AI를 장기적 보안 위협으로 공식화

2023.08.04 Michael Hill  |  CSO
영국 정부가 인공지능(AI)을 영국의 안전 및 중요 시스템에 대한 장기적 보안 위협으로 공식화했다. 
 
ⓒ Getty Images Bank

영국 정부가 지난 3일 ‘국가 위험 등록부(National Risk Register, NRR) 2023’을 발간했다. 해당 문서에서는 AI가 영국에 대한 보안 위협으로 처음 분류됐다. 약 200쪽에 달하는 문서에는 국가 차원의 안전, 보안 또는 중요 시스템에 영향을 미칠 수 있는 위협 관련 내용이 담겼다. AI는 테러 공격 같은 급성 위협이 아닌, 장기간에 걸쳐 부정적 영향을 미칠 수 있는 ‘만성적 위협(chronic risks)’으로 분류됐다. NRR이 분류한 다른 만성적 위협으로는 기후 변화, 항생제 내성(AMR), 심각하고 조직적인 범죄(SOC) 등이 있다. 올해 영국 정부는 AI뿐만 아니라 사이버 공격의 위험도를 ‘한정적 영향’ 수준에서 ‘보통 영향’ 수준으로 상향 조정했다. 

첨단 AI 기술이 국가에 대한 사이버 공격에 사용될 경우 중대한 보안 위협이 될 수 있다는 우려는 적지 않다. 이러한 우려에 따라 생성형 AI 같이 발전 중인 AI 기술이 사이버 보안에 영향을 미칠 가능성에 대해 연구가 계속되고 있다.

영국에 여러 잠재적 위험을 초래할 수 있는 AI
NRR은 AI 시스템과 역량이 많은 기회를 제공한다며, 제약 발전을 촉진하는 것부터 경제 및 사회 전반에 걸친 여러 응용 분야에 이르기까지 다양한 기회가 있다고 설명했다. 또 영국 AI 파운데이션 모델 위원회가 이러한 기회를 늘리는 것을 목표로 하고 있다고 밝혔다. NRR은 “그러나 기회와 함께 다양한 잠재적 위험도 존재한다. 혁신에 대한 불확실성도 있다. 정부가 ‘인터그레이트 리뷰 리프레시 2023’에서 밝힌 것처럼 영국에 전략적인 강점이 있는 분야 중 일부에는 취약점도 있다. 그리고 취약점에는 AI도 포함된다”라고 언급했다. 

NRR에 따르면 영국 정부는 주요 국가, 주요 기술 기업 및 연구자들이 AI로 인한 위험에 대응하는 안전 조치를 합의할 글로벌 AI 안전 서밋을 개최할 계획이다. 이와 함께 NRR은 2021년 발표된 영국의 국가 AI 전략도 소개했다. NRR에 의하면 당시 국가 AI 전략에는 영국이 AI 기반 경제로의 전환을 시작하는 방법, AI 성장에 있어 연구 개발의 역할, 필요 거버넌스 구조 등이 설명됐다.

한편 영국 정부는 올해 AI 규제와 관련한 백서도 발간한 바 있다. 정부는 AI로 인한 위험을 식별하고 모니터링할 중앙 리스크 기능을 구축하겠다고 약속했다. NRR은 “위험에 효과적으로 대처함으로써 AI의 장점을 더 잘 활용할 수 있을 것”이라고 평가했다. AI가 어떻게 영국을 위협할 수 있는지에 대한 의견이 NRR에 실리지는 않았다. 다만 NRR은 AI의 주요 위험 요소로 언급되는 허위 정보와 경제에 대한 잠재적 위협에 대해 지적했다.

영국이 위험에 대비할 수 있도록 돕는 최신 NRR
올리버 다우든 영국 부총리는 올해 NRR에 대해 “지금까지 발표한 것 중 가장 포괄적인 위험 평가다. 정부 및 관련 기관이 견고한 계획을 수립하고 모든 상황에 대비할 수 있도록 지원한다”라고 말했다. 

레질리언C(ResilienC)의 창립자 겸 이사회 이사인 릭 커드워스는 NRR 문서가 귀중한 정보를 제공해 영국이 보다 효과적으로 투자하고, 대비하고, 위험에 대응할 수 있도록 했다고 평가했다. 그는 “이전보다 더 상세하고 구체적인 시나리오, 가정, 대응 역량이 제시돼 있다. 조직과 회복탄력성 전문가가 이 문서를 바탕으로 스트레스 테스트를 진행하고, 모두가 함께 나아가는 과정에서 자체 회복탄력성을 강화할 것을 권장한다”라고 덧붙였다. 

장기 회복탄력성 센터의 위험 관리 정책 책임자인 제임스 긴스는 정부가 급성 위험 요소에 따른 취약점을 추가로 평가하고, 이를 완화하기 위해 노력하는 일이 매우 고무적이라고 진단했다. 그는 “정부가 앞으로 회복탄력성을 강화하기 위해 특히 AI 및 생물 보안 분야에서 만성적 위험 요소와 관련 취약점을 식별하고 평가하는 작업을 지원하기를 기대한다”라고 말했다. ciokr@idg.co.kr
 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.