칼럼 | 해커의 새로운 무기 ‘생성형 AI’, 방어에도 활용하자

챗GPT의 강력한 기능이 기업 시스템을 공격하고 있다. 주로 악성 패키지와 환각 현상 형태로 공격이 이뤄지고 있다. 
 

최근 보안 업체 벌칸 사이버(Vulcan Cyber)의 블로그에 따르면, 챗GPT와 같은 생성형 AI가 보안 공격 무기로 빠르게 변모하고 있다. 특히 현재 많이 쓰이는 클라우드 시스템에 공격이 이뤄지고 있다. 클라우드 컴퓨팅 관계자라면 이를 대비하고 있어야 한다. 

새로운 공격 방법
최근 해커들은 오픈AI의 챗GPT를 이용해 개발자 환경에 악성 패키지를 유포하는 공격을 늘리고 있다. 챗GPT로 존재하지 않는 URL, 참조, 코드 라이브러리 및 함수를 생성하고 있는 것이다. 벌칸 사이버 보고서에 따르면, 이러한 '환각(인공지능이 부정확하거나 거짓 정보를 제공하는 현상)'은 오래된 훈련 데이터로 발생할 수 있다. 공격자는 챗GPT의 코드 생성 기능을 통해 악의적으로 배포된 조작된 코드 라이브러리(패키지)를 악용할 수 있으며, 전통적으로 많이 쓰인 타이포스쿼팅(typosquatting) 공격을 우회할 수도 있다.

URL 하이재킹 또는 도메인 모방이라고도 하는 타이포스쿼팅은 유명하거나 합법적인 웹사이트의 주소와 비슷한 도메인을 만들고 이를 접속한 사용자를 공격하는 행위다. URL을 입력할 때 오타를 입력하는 사용자를 공략해 허위 사이트로 유도하는 것이다.

또 다른 공격은 사용자가 챗GPT에 특정 코딩 문제를 해결하기 위한 패키지를 질문할 때, 합법적인 저장소에 게시되지 않은 패키지를 포함한 여러 패키지를 추천하는 것이다. 공격자는 이러한 존재하지 않는 패키지를 악성 패키지로 대체함으로써 향후 챗GPT의 추천에 의존하는 사용자를 속일 수 있다. 이미 챗GPT 3.5를 개념 증명할 때 관련 잠재적인 위험이 제기됐다.

물론 이러한 유형의 공격을 방어할 방법도 있다. 개발자는 라이브러리 생성 날짜와 다운로드 횟수를 면밀히 살펴보면서 피해를 막을 수 있다. 하지만 이런 유형의 위협에 대처하려면 늘 익숙치 않은 패키지는 문제가 없는지 의심하며 점검해야 한다. 

새로운 위협에 대처하기
여기서 중요한 것은 새로운 위협이 등장했다라는 부분이 아니다. 이제 누구나 생성형 AI 기반 위협에 안전하지 않다는 점이다. 공격을 받는 것은 시간문제다. 악의적인 공격자는 생성형 AI를 효과적인 무기로 활용하는 방법을 익힐 것이고, 앞으로 관련 위협은 더욱 일반화될 가능성이 높다. 따라서 이에 대응할 더 나은 방법이 있어야 한다. 

결국 공격자보다 앞서 나가려면 생성형 AI를 방어 수단으로 사용해야 한다. 기업이 과거 사후 대응하는 전략을 선택했다면, 이제 통합 가시성 및 AI 기반 보안 시스템과 같은 전술을 사용해야 한다. 즉 사전 예방적 접근 방식으로 전환해야 할 때가 왔다. 

보안 뉴스를 보고 뒤늦게 부랴부랴 수습하는 상황을 피하려면 클라우드 보안 및 데브섹옵스 전문가는 한 단계 더 발전해야 한다. 이는 IT 예산이 축소되는 상황에서 보안에 대한 투자를 늘려야 한다는 것을 의미한다. 새로운 위험을 관리하기 위해 적극적으로 대응하지 않으면 심각한 보안 침해가 발생할 가능성이 높다. 비용을 투자하지 않으면, 심각한 대가를 치러야 할 수도 있다. 

물론, 보안에 더 많은 비용을 지출하지 않으면 최악의 상황이 발생할 수 있다고 겁을 주는 것이 보안 전문가의 역할이다. 하지만 변화하는 전장의 특성과 거의 무료로 제공되는 효과적인 공격 도구의 활용성을 생각해본다면, 심각하게 비용 문제를 다시 고려해야 한다. 벌컨 보고서에서 언급된 악성 AI 패키지의 환각 현상은 이제 시작이다. 앞으로 칼럼이나 뉴스에 비슷한 소식이 계속 전해질 것이고, 이를 통해 우리는 상황이 얼마나 심각한지 점점 더 알게 될 것이다.

한 가지 다행스러운 점은 대부분의 경우 클라우드 보안 및 IT 보안 전문가가 공격자보다 더 지능적이며 지난 몇 년 동안 수 차례의 대규모 침해에도 불구하고 몇 발짝 앞서 나갔다는 것이다. 하지만 해커는 공격 방식에 혁신을 도입하기 위해 꼭 똑똑하지 않아도 된다. 생성형 AI를 활용해 고도로 방어된 시스템을 뚫는 방법을 이해하면 된다. 이제 보안 업계에서는 새로운 게임이 시작될 것이다. 이런 상황을 맞이할 준비가 되었는지 검토해야 할 때이다.

필자 David S. Linthicum ‘클라우드 컴퓨팅에 대한 내부자 가이드(An Insider’s Guide to Cloud Computing’ 비롯해 컴퓨팅에 관련해 13권의 책을 저술한 바 있다. 
ciokr@idg.co.kr