Offcanvas

AI / CSO / 머신러닝|딥러닝 / 보안 / 신기술|미래

칼럼 | (보안 분야의) AI는 어디까지 왔는가?

2023.04.17 Rick Grinnell  |  CIO
챗GPT(ChatGPT)에 대한 여러 미디어의 줄 잇는 보도로 인해 사람들이 AI가 ‘지금 여기(here and now)’의 기술이라고 믿게 되었다. 예를 들어 오피스365에서 X박스(Xbox)에 이르기까지 마이크로소프트가 자사의 제품 라인에 AI가 완전하고 철저하게 통합할 것으로 기대되고 있다.

마이크로소프트는 이미 빙(Bing) 검색 엔진과 깃허브 코파일럿(GitHub Copilot)에 이미 챗GPT를 통합했며, 이제 애저 오픈AI(Azure OpenAI) 서비스에서 챗GPT를 사용할 수 있다고 발표했다. 워드(Word), 파워포인트(PowerPoint) 및 아웃룩(Outlook) 앱에도 추가적인 통합을 검토하고 있다.

하지만 보안 분야에서 인공지능(AI)은 얼마나 활용되고 있을까? 지난 10년 동안 사이버 보안 분야에서는 AI기술이 진보해왔다. 실제로 2017년과 2018년에도 블랙햇 컨퍼런스 101번 도로의 광고판과 간판에서는 사일런스(Cylance(블랙베리에 인수됨)), 다크트레이스(Darktrace)와 같은 회사들이 AI 기반 보안 기술을 마케팅하는 풍경을 볼 수 있었다.

그러나 벤처 캐피탈 분야에 몸담은 필자의 시각에서는, AI의 보안 시장 내 확산은 아직 부족한 것으로 보인다. 최근 12명이 넘는 최고 정보보호최고책임자, 보안 임원 및 실무자들과 대화를 나눴는데, 그들의 피드백은 보안 분야에서 인공지능이 아직 초기 단계임을 확인시켜주었다. 더 흥미로운 점은 AI가 의미 있는 역할을 할 분야에 대해 전문가들 간에 의견이 분분하다는 점이다.
 
Image Credit : Getty Images Bank

사이버보안 시장에서의 AI
오늘날 AI는 대량의 데이터를 분류하고 ‘배경 잡음(background noise)’을 줄이며, 그 외에도 매우 어려우면서 시간이 많이 소요되는 패턴 또는 이상 현상을 찾는 데 탁월한 능력을 발휘한다.

또한, AI는 과거를 모델링하여 새로운 위협 변형과 패턴을 생성하는 데 능숙하다. 그러나 일부 마케팅 자료에서 주장하는 것과는 달리, AI는 미래를 예측하는 데에는 능하지 않다. 미래의 공격이 어떤 모습일지 보여주는 데는 도움이 될 수 있지만, 특정 공격이 발생할 것인지 여부를 확실하게 보여줄 수는 없다.

보안 문가들 사이에서는 AI에 대한 과대 광고가 현실보다 앞서 있다는 의견이 지배적이다. 모든 벤더가 AI에 대해 얘기하지만, 경영진은 현재 사용하는 대부분의 제품에 AI가 거의 또는 전혀 통합되어 있지 않다고 생각하고 있다.

한 저명한 F500 보안업체 임원은 많은 벤더가 AI를 사용한다고 주장하지만, 그 실체가 투명하지는 않다고 지적했다 예를 들어, SIEM 기술 내에서 AI가 비밀 무기일 수도 있고, 위협 감지 및 위협 탐지 활동을 보완할 수도 있다. 하지만 회의적인 이유는 투명성이 부족하기 때문이다. 노련한 경험을 지닌 임원조차도 인공지능의 실제 상황을 확실히 파악하기 힘든 것이 현실이다.

현실 인식
그렇다면 재 AI의 현실은 어디쯤 와 있을까? 최근 만난 전문가들의 공통된 생각은 AI는 학습용 데이터 뿐 아니라, 현실의 대규모 데이터 세트를 사용할 수 있을 때 가치가 있으며 앞으로도 그럴 것이라는 것이다. 전문가들은 SIEM, 이메일 피싱 탐지 및 엔드포인트 보호와 같은 3가지 분야에서 AI가 상대적으로 중요한 역할을 할 것으로 보고 있었다. 

SIEM/SOAR 카테고리에서 AI는 오늘날 대량의 보안 이벤트 데이터를 분류하여 인간이 더 빨리 위협과 악용을 감지하고 대응할 수 있도록 돕는 역할을 할 수 있다. 특히, 스플렁크(Splunk)는 이 분야에서 선도적인 AI 기술을 제공하는 공급자 중 하나로 언급됐다. 모든 전문가들이 이 견해에 보편적으로 동의한 것은 아니지만, 대부분은 다른 분야에 비해 이 영역에서 AI의 확산이 현실적일 것으로 예상했다.

이메일 필터링 및 피싱 방지 범주에서는 대량의 이메일 데이터를 프루프포인트(Proofpoint)와 마임케스트(Mimecas)t 같은 회사가 시스템 훈련에 사용해 이메일 내 피싱 공격을 찾아낼 수 있을 것이다. 내가 만난 몇몇 임원들은 이러한 제품에 일부 AI가 활용되고 있다고 주장했다. 그러나 일부는 분류 및 감지의 주요 기술로 AI가 제대로 사용되고 있는지에 대해 의문을 제기했다.

엔드포인트 기업들은 수년 동안 수백만 대의 머신에서 수집한 데이터를 활용하여 시스템을 훈련시키는 데 활용해왔다. 이전에는 이러한 시스템이 설치된 기반 전체에서 패턴 매칭을 위한 서명을 생성하는 시스템이었지만, 오늘날 이러한 제품은 AI를 사용하여 보다 동적인 공격을 탐지할 수 있다.

앞서 말했듯이, 모든 제로데이 공격을 감지할 수 있는 AI 기반 시스템은 없다고 하더라도, 크라우드스트라이크(CrowdStrike)와 같은 회사의 최신 제품은 이러한 격차를 더 효과적으로 좁힐 수 있는 것으로 인식되고 있다. 

필자가 만난 F500 기업 중 한 명은 크라우드스트라이크가 AI를 통해 제공하는 가치의 가장 좋은 예라고 100% 확신했다. 반면에 2명의 CISO는 고객이 비용을 지불하고 있음에도 이 벤더의 엔드포인트 제품에 실제로 AI가 탑재되어 있다는 증거를 찾지 못했다고 언급했다. 

위에서 언급한 3가지 의견 차이만 보더라도 사이버 보안 산업이 처한 현실은 분명하다. 업계의 최고 경영진과 실무자 중 적어도 일부가 AI가 배포되고 가치를 창출하는지 납득하지 못하고 있는 것이다. 신경 쓰지 않아도 되는 걸까?

어쩌면 우리는 결과만 바라보고 있는 건지 모른다. 기반 기술은 ‘AI’라고 뭉뚱그린 채 말이다. 물론 어떤 시스템이 모든 공격의 99.9%를 방어한다면, 그 시스템이 AI 기반인지 아닌지가 중요하지 않다고 생각하는 이들이 있을 수 있다. 그러나 필자는 ‘AI 기반인지 여부가 의미가 있다고 본다. 앞으로 더 많은 공격이 AI에 기반한 공격이 될 것이고, 표준 방어 방식으로는 대응할 수 없을 것이기 때문이다.

문제 해결사로서의 AI
다른 보안 부문을 생각해볼 때, AI는 비정상적인 시스템 액세스를 발견하는 데 도움이 되는 ID 및 액세스 관리에서 중요한 역할을 할 것이다. 한 CISO는 AI가 오늘날 특히 까다로운 문제 중 하나인 내부자 위협 문제를 해결하는 데 도움이 되기를 원한다고 전했다. 또한 AI가 레드 팀(Red Team)의 업무 중 일부분을 자동화하고 블루 팀(Blue Team)의 모든 활동을 자동화하는 데 도움이 될 것으로 기대했다.

한 가지 관전포인트 중 하나는 공격자가 챗GPT(ChatGPT) 및 기타 AI 기반 도구를 사용하여 악성 애플리케이션이나 악성 코드를 생성할 위험이다. 반대의 경우도 가능하다. 악의적인 공격자가 실제로 사용하기 전에 AI가 악성 코드의 예시를 생성하여 더 나은 방어 체계를 구축하는 데 도움을 주는 것이다. 

AI와 관련한 또 다른 우려는, 적절한 관리 없이 AI가 생성한 코드에 버그가 많거나 생길 수 있다는 것이다. 이렇게 되면 넓은 범위에서 취약한 코드가 생성되고 AI 기반 취약성 스캐너가 해결해야 할 새로운 문제가 발생할 수 있다.

마지막으로 언급할 사실은 마이크로소프트, 구글, 아마존 등이 기본 AI 알고리즘을 제공할 것이라는 점이다. 소규모 사이버 보안 업체들은 고객이 상호 작용하는 데이터와 프런트 엔드 제품을 소유하게 될 것이지만 백엔드 브레인은 더 큰 기업 중 하나의 기술을 활용할 것이다. AI 기반 보안 회사가 기술적으로 AI를 소유하는 경우는 아주 드물 것이다.

미래의 AI
현대 보안 및 방어 시스템에서 AI의 적용은 아직 초기 단계이다. AI는 수십 년 동안 연구 커뮤니티에 존재해 왔지만, AI를 실용화하고 배포할 수 있게 만드는 기술, 플랫폼은 최근 몇 년에 들어서야 이제 막 출시되었다. 하지만 향후 5~10년 후에는 상황이 어떻게 펼쳐질 것인가?

필자는 AI 기반 사이버 보안 솔루션에 대한 투자 가치가 있다고 본다. 향후 10년 이내에 훨씬 더 광범위하고 심층적으로 기업에서 쓰이게 될 것이라 믿는다. 위에서 언급한 3가지 분야를 포함하여 여러 부문에서 AI가 현실이 될 것이라는 것이 일반적인 견해이다.

전문가들은 AI가 보안의 모든 부문에서 점점 더 중요해질 것이라고 생각하지만, 다음과 같은 분야에서 특히나 그 가능성이 더 높다.

· 사기 탐지
· 네트워크 이상 감지
· 기업 웹사이트 및 소셜 미디어 자산을 포함한 딥 페이크 콘텐츠 발견
· 위험 분석, 그리고
· 규정 준수 관리 및 보고(실제로 AI에 중점을 둔 규정이 많아지면서 새로운 프로세스와 정책이 필요함에 따라 AI는 조직에 새로운 규정 준수 골칫거리를 만들 가능성이 높다.)

오늘날 AI가 사이버 보안 솔루션에서 어떤 위치에 있는지, 무엇을 할 수 있으며 무엇을 하지 않는지에 대한 불확실성이 매우 크다. 그러나 필자는 이러한 불확실성이 기업가들로 하여금 이 새로운 영역을 탐색하는 데 도움이 되는 새로운 제품을 개발하게 만들 것이라고 믿는다. 이는 사이버 보안을 넘어 조직에서 사용되는 모든 소프트웨어 제품에도 해당될 가능성이 높다.

향후 5~10년 동안의 AI 애플리케이션은 분명 흥미로울 것이다. 현재의 과한 관심으로 실제보다 과장되어 보일 수 있지만, 이 시장이 발전할수록 더욱 놀라운 일이 우리를 기다리고 있을 것이다.

* Rick Grinnell는 CIO닷컴에 정기적으로 기고하고 있다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.