Offcanvas

AI / 보안 / 신기술|미래

"생성형 AI, 보안 위협의 창이자 방패"··· 구글, 2024년 보안 예측 발표

2024.01.03 김달훈  |  CIO KR
"생성형 AI와 기반 모델이 위협 공격자와 방어자 양측에서 빠르게 성장할 전망이다. 공격자는 AI를 사용하여 정보 운영의 규모를 늘릴 가능성이 높으며, 피싱, SMS 및 기타 소셜 엔지니어링 공격이 더욱 합법적으로 보일 것으로 예측된다. AI는 맞춤법 오류와 문법 오류가 적고 문화적 맥락이 분명한 피싱 공격을 만드는 데 악용될 것이다."

구글 클라우드가 '클라우드 CSIO 퍼스펙티브 : 2024년 사이버 보안 예측(Cloud CISO Perspectives: Our 2024 Cybersecurity Forecast)'보고서를 통해 2024년에 각별히 주의해야 할 보안 위협 요소를 발표했다. 필 베네블스(Phil Venables) 구글 클라우드 TI 보안 및 CISO 부사장과 닉 고드프리(Nick Godfrey) 수석 이사가 구글 클라우드와 뉴스레터로 2024년에 미리 알고 대비해야 할 보안 위협 요소를 강조했다.

보고서는 생성형 AI가 보안 위협의 창과 방패로 빠르게 성장하고, CISO의 책임이 더욱 무거워지며 최고 경영진과 이사회의 책임이 커질 것으로 전망했다. 또한 보안운영(SecOps;Security Operations)을 중심으로 더 많은 통합이 진행되고, 하이브리드 및 멀티클라우드 환경을 노리는 공격이 점점 증가할 것으로 예상했다.

어떤 방패도 뚫을 수 있는 창, 그리고 어떤 창도 막을 수 있는 방패, 이렇게 말이 안 되는 모순의 상황이 2024년 사이버 보안의 세계에서 치열하게 진행될 전망이다. 생성형 AI를 악용한 사이버 공격이 점점 치밀해지면서, 이를 방어하려는 생성형 AI를 활용한 기술 역시 강화될 것이기 때문이다. 대규모 공격 탐지, 분석 및 리버스 엔지니어링에 생성형 AI가 적극적으로 활용되면, 위협 과부하를 해결하고 인재 격차를 줄이는 효과를 기대할 수 있다.

하지만 직원들이 공식적으로 허용된 기업용 AI 도구 대신 승인되지 않은 일반용 AI 도구를 사용할 때 심각한 문제를 유발할 수 있다는 점을 잊지 말아야 한다고 구글은 조언했다. 이미 생성형 AI를 통한 기업 정보나 기밀 유출 사례가 문제가 되고 있지만, 이를 간과하고 안일하게 대처하는 조직에서는 이러한 쉐도우(Shadow) AI로 인한 데이터 보안, 규정 준수, 개인 정보 보호 등의 심각한 문제에 직면할 수 있다는 것이다.

2023년 10월 30일 미국 증권거래위원회(SEC;Securities and Exchange Commission)가 솔라윈즈(SolarWinds)의 정보 보안 책임자를 사이버 보안 위험 및 취약점과 관련된 사기 및 내부 통제 실패 혐의로 기소했다. 다양한 보안 위협에 직면한 기업의 사령탑인 CISO에게 상황 대처와 의사 결정에 대한 무거운 법적 책임이 따를 수 있다는 것이 더욱 명확한 현실이 된 것이다.

이러한 변화에 대해 보고서는 "새로운 SEC 규정에 따라 보험 및 법률 지원과 같은 필수적인 직업 보호와 사이버 보안 및 위험 관리에 대한 이사회 및 고위 경영진의 책임이 명확히 명시되지 않은 상태에서 직책을 수락하는 CISO가 줄어들 것이다. 이제 사이버 보안은 비기술적인 리더십의 일반적인 책임 범위를 벗어난다는 믿음은 더 이상 받아들여지지 않을 것"이라고 분석했다.

보안 운영의 통합에 대해 구글 클라우드의 보안 고문인 안톤 추바킨은 "보안 운영의 통합은 양날의 검과도 같다. 통합은 효율성과 통합을 약속하지만, 공급업체에 종속되어 혁신을 저해할 위험도 있다. 조직이 경직된 플랫폼과 사일로화된 데이터를 피하려면 다른 도구와 잘 작동하고 함께 작동하는 더 간단한 도구가 필요하다"라고 조언했다.

아울러 "사전 구성되고 의견이 반영된 워크플로우와 탐지 콘텐츠는 보안 프로그램을 빠르게 시작하고 고객에게 큰 가치를 제공할 수 있다. 하지만 탐지 및 대응 툴을 최대한 활용하려면 더 나아가야 한다. 즉, 콘텐츠를 만병통치약이 아닌 출발점으로 취급해야 한다. 공급업체가 제공하는 콘텐츠와 워크플로를 특정 환경과 위협에 맞게 조정하고, 오픈소스 위협 피드 및 위협 연구 커뮤니티를 비롯한 다양한 인텔리전스로 보완하라"라고 주문했다.

하이브리드 클라우드, 퍼블릭-프라이빗 클라우드, 멀티클라우드 등 조직이 사용하는 다양한 기술 전략으로 인해 이러한 환경을 방어하는 것이 복잡해지는 것도 위험 요인이다. 현재 보안 침해 사고의 가장 큰 원인을 제공하는 ID 관리와 구성 오류는 계속해서 주요 취약점으로 작용할 전망이며, 이에 대비하기 위해서는 올바른 자격 증명 관리, 정책 시행, 구성 오류 방지를 위한 클라우드 환경 및 아키텍처 전용의 교육을 통해 위험을 줄여야 한다고 그는 강조했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.