‘기술 수준 달라져’… 딥페이크, 2024 미국 대선의 최대 보안 위협으로 부상

미국이 2024년 대선을 앞두고 있다. 딥페이크 같은 AI 기반 위협이 주요 보안 이슈로 떠오르고 있지만, 이에 대응할 만한 신뢰성 있는 도구는 아직 마련되지 않은 상태다.
 

2024년은 미국에 있어 중요한 해다. 향후 수십 년의 운명을 결정할 수 있는 대통령 선거가 11월 열릴 예정이기 때문이다. 또한 하원 435석, 상원 34석, 주지사 13석 등 총 435석의 의석 및 수천 개 지방 정부 선거가 예정돼 있다.

공식 발표에 의하면 2020년 미국 선거는 ‘근거 없는 주장과 잘못된 정보의 가능성’이 제기됐음에도 심각한 투표 부정행위는 일어나지 않았다. 하지만 내년 선거 전망은 불확실하다. 이와 관련해 지난 11월 클라우드플레어(Cloudflare)는 신뢰 가능하고 안전하며 안정적인 미국 선거를 위협할 수 있는 그룹의 사이버 공격 동향을 파악한 보고서를 발표했다.

클라우드플레어는 2022년 11월부터 2023년 8월까지 조사 대상인 미국 선거 단체에 대한 위협을 3,470만 건 완화했다고 밝혔다. 대부분 디도스(DDos) 공격과 관리 규칙의 완화였다. 하지만 2024년 미국 대선은 상황이 조금 다르다. 사이버 보안 전문가들이 입을 모은 주요 위협은 ‘허위 정보의 유포’다. AI 발전에 힘입은 결과다.

선거 방해 세력의 주 목표는 신뢰 약화
클라우드플레어 CSO 그랜트 부르지카스는 “신뢰는 민주주의의 핵심 가치다. 안전하고 신뢰할 수 있으며 접근이 쉬운 인터넷 환경을 조성하는 것이 대중과 선거 분야 종사자에게 매우 중요하다. 이는 자유롭고 공정한 선거를 위해서도 필요하다”라고 말했다.

그는 “주요 위협에 관한 한, 정부 및 국가의 지원을 받는 행위자들이 인터넷 차단을 통해 여론이나 인식에 의심을 품게 하는 허위 또는 오해의 소지가 있는 정보의 흐름을 통제하는 모습을 계속 보게 될 가능성이 높다. 선거 기간 동안 소셜 미디어를 제한하며 결과를 안내하는 웹사이트를 차단하는 모습도 보게 될 수 있다”라고 말했다. 

지난 2016년 미국 대선에서는 러시아 기반 위협 세력이 혼란을 야기한 바 있다. 당시 이들의 주요 공격 방식은 해킹한 정보를 유출하는 것이었다. 내년 대선에서는 이전에 검증된 피싱 전술뿐만 아니라, 딥페이크와 같은 AI 기반 도구까지 활용하는 방식으로 위협이 더 광범위해질 가능성이 높다. 부르지카스는 “딥페이크 같은 위협이 초래하는 문제는 매우 심각하다”라고 지적했다.

그는 “딥페이크는 수년 전부터 존재해 왔지만, 오늘날에는 훈련된 눈과 귀로도 식별하기 어려울 정도로 기술이 발전했다. 인공지능의 힘을 활용하는 것과 방어하는 역량은 모두 개념과 실체를 얼마나 잘 연결할 수 있는지에 달려 있다. 보안 업계가 AI와 그 악의적 사용 사례의 잠재력을 제대로 이해하지 못한다면, 2024년은 선거 현장을 노리는 위협 행위자들의 ‘전장’이 될 것”이라고 경고했다.

딥페이크 기술이 선거에 끼치는 영향은 지난 9월 슬로바키아 총선을 교훈으로 삼을 수 있다. 국회의원 선거를 앞두고 치열한 경쟁이 펼쳐지고 있던 당시, 극우 단체 리퍼블리카(Republika)가 슬로바키아 진보당 지도자 미하엘 시메카의 목소리를 변조한 딥페이크 동영상을 유포해 맥주 가격 인상 계획을 발표했다. 또한 동영상에는 당이 어떻게 선거를 조작할 계획인지 논의하는 모습까지 담겼다. 리퍼블리카의 지원을 받은 친러시아 성향의 스메르(Smer)당이 총선에서 1위를 차지하는 데 이러한 딥페이크가 얼마나 영향을 미쳤는지는 알려지지 않았지만, 그 위력은 확실했다.

정치적 목적의 딥페이크는 이미 미국 정치계에도 등장했다. 올해 초 미국 민주당 상원의원 엘리자베스 워런의 TV 인터뷰를 조작한 딥페이크가 소셜 미디어로 유포된 것이다. 지난 9월 구글은 AI를 이용한 정치 광고에 이미지나 사운드가 합성되고 변경된 경우 이를 명시하도록 의무화하겠다고 발표했다. 의원들은 메타와 X도 이를 따르도록 압력을 가했다.

딥페이크는 ‘꽤 공포스러운 존재’
AWS의 2023 리인벤트(Re: Invent) 행사에 참석한 애자일블루(AgileBlue) 사장 토니 피에트로콜라는 선거 개입과 관련된 인공 기술에 대해 논의가 많았다고 언급했다. 그는 “AI가 무엇을 할 수 있는지 생각해 보면, 잘못된 정보뿐만 아니라 사기, 속임수, 딥페이크도 더 많이 발견된다”라고 말했다. 그는 “국회의원, 상원의원, 대통령 후보 등 누구든지 그 사람이 실제로 말하는 것처럼 보이기 때문에 꽤 공포스러운 일이다. 흥미로운 점은 딥페이크 영상이 엄청난 조회 수를 기록한다는 것이다. 사람들은 영상을 보고 기억할 뿐, ‘이건 가짜구나’ 하고 다시 확인하지 않는다”라고 전했다.

피에트로콜라는 해킹과 침해로 도난당한 방대한 양의 데이터와 향상된 AI 기술이 결합되면 선거 전까지 딥페이크가 잘못된 정보의 ‘퍼펙트 스톰’을 형성할 수 있다고 말했다. 그는 “퍼펙트 스톰은 AI가 사실처럼 보이게 하고 실제처럼 행동하게 만드는 데 그치지 않는다. 위협 행위자들이 훔쳤거나 자발적으로 제공된 소셜 엔지니어링 데이터를 사용해 디지털 프로필을 생성한다면 문제는 훨씬 커진다. 그들은 이제 사람들의 모든 것을 알고 있고, 실제처럼 보이도록 행동할 수 있다”라고 지적했다.

이러한 불안한 예측을 심화하는 것은 AI 기술이 개방돼 있고 점점 더 널리 보급되고 있다는 점이다. 이는 딥페이크가 러시아, 중국, 이란처럼 전통적인 민족 국가의 적대국에게만 국한되지 않을 수 있다는 것을 시사한다. 시큐리티스코어카드(SecurityScorecard)의 R&D 부문 수석 엔지니어인 자레드 스미스는 인터뷰에서 “2016년과 2020년에는 딥페이크의 사용이 매우 정교한 위협 행위자에 국한돼 있었다면, 이제는 전 세계 사람들이 접근할 수 있다. 어떤 의미에서는 한 산업 시대에서 더 많은 사람들이 이전까지 할 수 없었던 일을 해내는 도구를 가진 다른 산업 시대로 이동하고 있다고도 볼 수 있다”라고 말했다.

문제에 대한 해결책은 모호
2024년 선거가 본격화되면서 위협이 나타날 것으로 보이지만, 이에 대한 해결책은 아직 뚜렷하지 않다. 중요한 것은 정치 단체가 기본적인 사이버 범죄로부터 스스로를 방어하도록 사이버 보안 관행을 갖추고 있어야 한다는 점이다. 

부르지카스는 “선거 과정에서 기술의 역할은 점점 더 늘고 있지만, 많은 사람들이 온라인 위험, 온라인 보안을 유지하는 데 쓰이는 리소스, 사이버 위협을 완화하는 전략에 대해 알지 못하고 있다. 무엇보다도 모든 선거 및 정치 단체는 ‘침해를 가정하는(assume breach)’ 사고방식을 채택해야 한다. 즉 관련 단체에 대한 크고 작은 공격이 계속되면 놀랄 것이 아니라 이를 예상할 수 있어야 한다”라고 말했다.

보안은 필수 관행이며, 여기에는 필요한 직원의 고용도 포함된다. 스미스는 “소셜 엔지니어링에 대해 이야기하기 전에, 캠페인을 운영하거나 수행하는 모든 기업에는 해당 캠페인을 책임지는 IT 담당자 또는 사이버 보안 관리자가 있어야 한다”라고 설명했다.

딥페이크나 AI가 생성한 잘못된 정보에 관해서는 문제가 더 복잡하다. AI가 생성한 텍스트에 대한 자동화된 탐지 도구는 신뢰성이 아직 입증되지 않았으며, AI 음성의 복제 여부를 탐지하는 기존 도구의 성능도 미흡한 실상이다.

피에트로콜라는 가짜를 판별하는 자동화 도구가 악의적 행위자의 기술을 능가할 수 있다고 낙관하지 않았다. 대중의 눈에 띄는 사람의 목소리와 이미지를 복제하는 것이 매우 쉽기 때문이다. 그는 “가짜가 진짜처럼 보이고 들리기 때문에 발견 도구가 성능을 내기 더 어려워지고 있다”라고 언급했다.

현 단계에서 미래에 대한 정확한 예측은 불가능하지만, 미국에서 선거일 전까지 새로운 형태의 위협이 더 많이 등장할 것이라는 점은 거의 확실하다. 부르지카스는 “정치 단체에 대한 위협은 꾸준히 증가할 것이며, 다른 대규모 이벤트와 마찬가지로 중요한 순간에 가까워질수록 더 영향력 있고 전략적인 공격이 일어날 수 있다”라고 내다봤다.

* Cynthia Brumfield는 사이버 보안 관련 베테랑 커뮤니케이션 및 기술 분석가다. 사이버 보안 뉴스 사이트인 Metacurity.com을 운영하고 있다. ciokr@idg.co.kr