Offcanvas

AI / How To / 보안

'챗GPT의 이면' AI 기반 피싱 대비 가이드라인 7가지

2023.03.23 Matthew Tyson  |  CSO
챗GPT와 같은 효과적인 자연어 처리 툴이 부상하면서 AI 기반 사이버 공격에 대한 방어를 강화할 방안을 마련해야 한다는 인식이 확산하고 있다. LLM(Large Language Model)의 자연어 생성 기능은 사이버 범죄의 핵심 공격 벡터인 피싱과 잘 맞는다. 해커는 피싱으로 사람을 속이기 위해 효과적인 언어 및 기타 콘텐츠를 대규모로 생성하는 기능을 주요 도구로 삼기 때문이다. 

갈수록 커지는 AI 기반 피싱 공격을 완화하기 위해 기업은 어떤 전략을 세워야 할까? 반드시 명심해야 할 가이드라인을 7가지로 정리했다.
 
ⓒ Getty Images Bank


위협 인지하기

사이버보안을 책임지는 리더는 해킹 툴 관점에서 ML(Machine Learning)을 이해함으로써 앞서 나갈 수 있다. 현재 사이버보안의 AI와 관련해서 가장 중요한 영역은 ‘콘텐츠 생성’이다. ML이 가장 크게 발전하고 있는 분야이기도 하고 피싱 및 악성 챗봇을 벡터로 사용하는 해커와도 잘 맞는다. 챗GPT를 이용할 수 있는, 즉 인터넷 연결이 가능한 사람이라면 누구나 매력적이고 체계적인 텍스트를 작성하는 능력을 갖출 수 있다.

IT 관리 업체 플렉세라(Flexera)의 CISO인 코날 갤러거는 “서툰 문법이나 맞춤법 오류를 찾는 방법은 과거의 이야기다. 챗GPT 이전의 피싱 이메일도 이미 과거보다 더 정교했다”라며, “이 이메일을 받기로 했는가? 보낸 사람 주소가 정상적인가? 이메일이 링크 클릭을 유도하는가? 같은 질문을 던져야 한다. 보안 인식 교육이 여전히 중요하다”라고 말했다.

갤러거는 챗GPT와의 상호작용을 통해 AI가 효과적인 피싱 이메일을 생성할 수 있음을 입증한 사이버보안 업체 위드시큐어(WithSecure)의 연구 결과를 언급했다. 이 밖에도 AI 툴이 불법적인 용도로 사용되는 것을 막는 안전장치가 효과적이지 않으며, 그런 용도의 맞춤형 툴이 만들어지고 있음을 확인한 연구 결과도 있다.

지금도 AI를 사용해서 효과적인 콘텐츠를 생성할 수 있으며, 이런 기술은 앞으로 더 발전한다는 점을 인식해야 한다. LLM 툴은 개선되고, 해커들이 더 많이 사용할 수 있게 되고, 해커를 위한 맞춤형 툴도 제작될 것이다. 이제 보안 정책을 강화하기 위한 단계에 대해 생각하고 실천에 옮기기 시작해야 한다.

또한 피싱 콘텐츠가 훨씬 설득력 있게 만들어질 뿐 아니라 표적을 정하는 역량도 강화되고 시간과 장소, 이벤트와 관련된 구체적인 사항을 반영할 수 있게 된다는 것도 예상해야 한다. 더 이상 악성 이메일임을 나타내는 신호에만 의존할 수 없다. 이미지, 심지어 오디오와 비디오도 콘텐츠 생성 기법을 통해 위조할 수 있다. 받기로 예정된 메일이 아닌 모든 이메일을 의심해야 한다는 사실을 계속 반복해야 한다.


사고방식과 문화가 주 방어 수단임을 알기

전직 FBI 사이버 부서 감시 특수 요원인 스콧 오젠바움은 CSO와의 인터뷰에서 “최종 사용자가 몇 가지 중요한 지식만 갖춰도 사이버 범죄 피해의 90%를 예방할 수 있다. 그 부분부터 시작하는 것이 좋다. 다른 모든 방법은 비용이 들고 안타깝게도 효과가 없는 것으로 보인다. 은퇴할 수 있게 누군가가 내 말이 틀렸다고 말해주면 좋겠다”라고 말했다.

오젠바움은 “1차 방어선은 스스로가 인간 방화벽이 되는 것”이라고 강조했다. 즉, 사람의 사고방식이 사이버보안의 중심이라는 의미다. 따라서 기업 내에서 이런 사고방식을 조성하는 것이 핵심이다.

사이버보안 인식 교육 업체 노우비포(KnowB4) CEO 스튜 슈베르만은 “문화는 전략을 압도하며, 항상 하향식”이라고 말했다. 직원의 일상적인 사고와 행동이 기업의 기본 면역 체계다. 보안 의식을 함양하기 위한 지속적인 직원 교육이 중요하다. AI 기반 피싱에서 중요하게 인식해야 할 점은 이메일과 기타 커뮤니케이션을 평가할 때 문장의 완성도와 세련됨만 봐서는 안 된다는 것이다. 피싱 공격자는 더 이상 어설픈 글을 사용하지 않으므로 직원 역시 경계 수준을 높여야 한다.


적절한 조치 강조하기

이메일과 기타 소프트웨어 인프라 요소가 기본적으로 제공하는 보안 기능은 사용자 스스로 어떤 행동을 하지 않는 한 대체로 안전을 보장한다. 이 부분에서 사고방식에 인계철선을 설치할 수 있다. 즉, 어떤 행동을 할 때 그 행동을 촉발한 요소가 무엇인지를 아주 예민하게 의식하는 것이다. 직원이 회신을 보내고 첨부 파일을 실행하거나 양식을 입력하지 않는 한 민감 정보는 위험에 노출되지 않는다. “지금 보는 콘텐츠가 내부적인 측면뿐 아니라 전체 맥락을 근거로 판단할 때 합법적인가?”라는 질문이 마음속의 1차 방어 고리가 되어야 한다. 2차 방어 고리는 “잠깐! 나는 지금 어떤 행동을 하라는 요청을 받고 있다”라는 인식이다.

피싱 시도를 접한 직원이 한 단계 더 진행한다면 공격자에게는 큰 성과가 된다. 그 ‘한 단계 진행’이라는 요소가 있어야만 공격이 계속 이뤄질 수 있기 때문이다. 보안 전문가는 자신과 직원, 주변의 모든 사람을 교육해 정보를 입력하거나 생소한 애플리케이션을 실행하라는 요청을 받을 때 머릿속에서 자동으로 경보가 울리도록 해야 한다.

특히 송금 같은 작업을 하는 경우에는 경계 수준을 더욱 높여야 한다. 상사가 정상적인 송금 지시를 내렸다고 믿게끔 딥페이크를 이용해 직원을 속인 사례도 있다. 중요도가 높은 커뮤니케이션은 피싱이 불가능한 2차 채널을 통해 검증해야 한다.

플렉세라의 제품 담당 이사 밥 켈리는 “모든 사람의 첫 번째 반응은 링크를 클릭하는 것이 아니라 해당 조직을 직접 찾아가서 메시지를 확인하는 것이 되어야 한다”라고 말했다.


피싱 시뮬레이션 실시하기

기업이 피싱에 얼마나 잘 대응하고 있는지 파악하는 유일한 방법은 테스트다. AI가 생성한 콘텐츠를 테스트에 사용하는 것은 위협 대응에 있어 중요한 부분이다. 효과적인 피싱 시뮬레이션을 실행하는 방법은 그 자체로도 따로 다뤄야 할 주제다. 그 시작은 구체적인 목표, 즉 테스트를 이끌 측정 가능한 지표를 설정하는 것이다. 피싱 이메일이 신고되는 빈도를 측정하고 이 지표를 개선하는 방향으로 캠페인을 진행하는 것이 좋은 예다.

안티 피싱 캠페인을 설계할 때는 AI 툴이 효과적인 콘텐츠 생성에 얼마나 유용한지 강조하는 것이 좋다. 문제를 심각하게 받아들여야 할 필요성을 강하게 인식시키는 데 도움이 된다. 점프클라우드(JumpCloud) 보안 엔지니어인 트레버 던컨은 CSO와의 인터뷰에서 “AI는 앞으로 계속 이용될 것이다. 베스트 프랙티스를 자주 보강하고 테스트함으로써 탄력적인 보안을 구축할 수 있다. 현재 직원들이 참여하는 시뮬레이션 소셜 엔지니어링 공격을 실시하고 있지 않다면, 2023년 계획에 이를 추가하는 것이 좋다. 보안 태세를 개선하고 보안 프로그램에 회복탄력성을 부여할 수 있다”라고 조언했다.


AI 탐지 자동화 툴 사용하기

챗GPT 개발사 오픈AI를 비롯해 다른 여러 기업이 AI로 생성된 텍스트를 감지하는 툴을 출시했다. NLP 생성기와 함께 계속 개선될 이런 툴을 통합하고 자동화하면 악성 콘텐츠 탐지에 도움이 될 수 있다. 이메일 검사 툴을 제공하는 업체들도 정상 콘텐츠 여부를 평가할 때 메타데이터 및 위치와 같은 맥락을 세밀하게 파악하기 위해 AI를 활용하기 시작했다. 맞불 작전, 즉 AI와의 싸움에서 AI를 이용하는 것은 사이버보안의 미래에 중요한 전략이다.

전체 네트워크 및 인프라 전략에서 피싱 탐지는 중요한 부분이다. AI를 이용한 인프라 정찰 및 침투 솔루션과 AI를 이용한 탐지 및 차단 솔루션이 만나면 특히 효과적이다. 옥타, 다크트레이스(DarkTrace)를 비롯한 많은 주요 보안 업체가 제품에 이런 툴을 통합하고 있다.

옥타의 고객 ID 부문 CISO인 자미카 그린 아론은 “AI와 ML을 활용해서 변화하는 보안 태세에 빠르게 적응하는 봇은 효과적인 공격 툴이다. 앞서 나가려면 실시간 위협 인텔리전스를 수집하도록 설계된 자동화, 그리고 위치나 디바이스 상태, 최종 사용자 행동과 같은 요소를 근거로 사용자의 ID를 검증하는 방법인 적응형 인증을 활용해야 한다”라고 말했다.

AI 탐지는 활발한 연구가 이뤄지는 ML 영역이다. AI 기반 피싱에 맞서기 위한 툴로 계속해서 도입될 것이므로 앞으로 주목해야 한다.


간편한 피싱 신고 체계 제공하기

보안 부서에 피싱을 알리는 것은 AI 기반 공격 대처에 필수적이다. AI 캠페인은 효율적으로 대량 생산이 가능하므로 피싱이 전개될 때 인지하는 것이 중요하다. 그러면 직원들에게 신속하게 알리고 안티 피싱 툴과 AI 탐지 모델을 위한 중요한 정보를 제공할 수 있다.

신고를 용이하게 하는 것 외에, 신고 행위 자체의 가치를 높이고 이를 근거로 조치를 취할 수 있도록 최대한 많은 정보를 수집하는 신고 체계를 갖춰야 한다. 이메일을 신고 주소로 전달하는 방법은 이메일에 포함된 모든 헤더와 메타데이터를 캡처하기에 좋으며, 간단한 양식이 포함된 포털은 피싱 웹사이트 등을 신고하기에 좋다. 각국 정부에서도 CISA를 포함한 DMARC(Domain-based Message Authentication, Reporting, and Conformance) 정책을 포함하도록 장려하고 있다.

피싱 신고는 견고한 보안 인프라의 필수적인 요소다. 효과적인 신고는 AI 캠페인 맥락에서 특히 중요하다. 공격자가 자동화와 정보 수집 및 통합을 통해 스피어 피싱 스타일(조직 내의 구체적인 정보를 이용함)의 공격을 확장할 수 있는 역량이 더 강화되기 때문이다.


피싱에 강한 인증 절차 구현하기

암호 기반 인증은 태생적으로 피싱에 취약하며 캡차(Captcha)와 같은 방법은 AI에 취약하다. 반면 피싱에 강한 인증 방법도 있다. 패스키(Passkey)는 피싱 저항력이 가장 높은 인증 모드로 꼽힌다. 아직 개발 중이지만, 차츰 주류로 부상하고 있다. 일단 구현되면 사실상 피싱이 불가능하다.

MFA(Multi-factor Authentication)도 도움이 된다. 2차 인증이 필요한 경우 피싱 사이트 또는 상호작용 과정에서 사용자 이름과 암호 조합이 노출되는 것만으로는 해커가 리소스에 대한 액세스 권한을 획득할 수 없기 때문이다. CISA도 피싱 방지 MFA에 대한 개요를 발표하며 그 중요성을 강조했다.
editor@itworld.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.