Offcanvas

AI / CSO / 비즈니스|경제

구글, AI 활용한 사이버 보안 강화 이니셔티브 출범

2024.02.19 Gagandeep Kaur  |  CSO
구글은 또한 시카고대학교, 카네기멜론대학교, 스탠포드대학교 등 여러 기관의 연구를 지원하기 위한 200만 달러의 연구 보조금 지원 및 전략적 파트너십을 발표했다.
 
ⓒ Getty Images Bank

구글이 인공지능(AI) 기능으로 사이버 보안을 강화하고 ‘방어자의 딜레마’를 극복하기 위해 AI 사이버 방어(AI Cyber Defense) 이니셔티브를 출범한다고 지난 16일 밝혔다.

이번 발표의 핵심은 파일 유형을 식별하는 AI 기반 도구인 매지카(Magika)를 오픈소스화해 멀웨어를 탐지한다는 계획이다. 매지카는 이미 여러 구글 제품을 보호하는 데 사용되고 있다. 구글은 블로그 게시물을 통해 “매지카는 기존의 파일 식별 방법보다 정확도가 전반적으로 30% 향상되고 VBA, 자바스크립트, 파워쉘(Powershell)과 같이 식별하기 어렵지만 잠재적으로 문제가 될 수 있는 콘텐츠에 대해 최대 95% 더 높은 정밀도를 제공한다”라고 밝혔다.

BMNxt 비즈니스 및 마켓 어드바이저리의 애널리스트 디팍 쿠마는 “구글의 자체 AI 기반 사이버 방어 도구인 매지카를 오픈소스화한 것은 새 이니셔티브의 핵심이다. 이미 지메일, 구글 드라이브, 세이프 브라우징 보호에 효과적으로 사용되고 있는 만큼 개발자 커뮤니티는 더 많은 표적 방어 도구를 개발하는 데 이 도구를 도입하면 유용할 것”이라고 설명했다.

구글은 또한 영국, 미국, EU의 17개 스타트업으로 구성된 사이버 보안용 AI 그룹을 발표했다. 블로그에서는 “국제화 전략, AI 도구 및 이를 사용할 수 있는 기술을 통해 대서양을 넘나드는 사이버 보안 생태계를 강화하는 데 도움이 될 것”이라고 말했다.

이번 발표에는 시카고대학교, 카네기멜론대학교, 스탠포드대학교 등 여러 기관의 연구를 지원하기 위해 200만 달러의 연구 보조금을 지원하고 전략적 파트너십을 맺는다는 내용이 담겼다. 또한 1,500만 달러 규모의 구글.org 사이버 보안 세미나 프로그램도 유럽 전역으로 확대할 예정이다. 이 프로그램은 대학이 소외된 지역사회의 차세대 사이버 보안 전문가를 양성할 수 있도록 지원하고 있다.

AI 사이버 방어 이니셔티브는 모델 도용, 학습 데이터의 데이터 중독, 프롬프트 주입을 통한 악의적 입력, 학습 데이터의 기밀 정보 추출 등 AI 시스템의 위험을 완화하기 위해 구글이 지난해 출시한 보안 AI 프레임워크(SAIF)를 기반으로 했다.

쿠마는 “AI 기술은 기업과 개인뿐만 아니라 사이버 범죄 조직과 공격자에게도 잠재력을 갖고 있다. 따라서 사이버 방어 메커니즘은 거대한 규모로 빠르게 정교해져야 한다. 대형 딥테크 기업은 필요 도구와 서비스를 만드는 데 건설적인 역할을 할 수 있기 때문에 구글의 이니셔티브는 매우 시의적절하고 필요한 시도다. 이러한 서비스는 기업과 기술 사용자, 특히 소규모 방어자들이 새로운 AI로 생성되는 많은 사이버 공격을 방어하는 데 도움이 될 수 있다”라고 설명했다.

AI가 ‘방어자의 딜레마’를 극복하는 데 어떻게 도움이 되는가?
구글은 AI가 “위협 탐지, 멀웨어 분석, 취약점 탐지, 취약점 수정 및 사고 대응에서 보안 전문가 및 방어자의 작업을 확장할 수 있기 때문에 방어자의 딜레마를 극복할 수 있다”라고 밝혔다.

동시에 구글은 이 목표를 달성하기가 쉽지만은 않다고 지적했다. 백서 ‘보안, 권한 부여, 발전: AI가 방어자의 딜레마를 역전시키는 방법’에서 구글은 “방어자의 딜레마를 역전시키는 것은 야심찬 목표이며 성공을 장담할 수 없다. 공격자들은 아마 이러한 활동을 약화시키기 위해 연구할 것”이라고 언급했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.