이제 봇(bot)이 광고 서비스까지 활용하는 세상이 왔다. 최근 페이스북은 내부 조사 결과 470여 개의 가짜 페이스북 계정과 페이지가 러시아의 어느 ‘트롤 팜(troll farm)’과 연계돼 있었다고 밝혔다.
이 러시아 기업은 지난 미 대통령 선거 당시 약 10만 달러를 써서 페이스북 광고 3,300개를 사들였다. 페이스북은 또한 외견상 미국에서 발행된 것으로 보이지만 사용자 언어가 러시아어로 된 약 5만 달러 상당의 2,200여 건의 광고도 확인했다고 덧붙였다. 한 보고서에 따르면 이들 광고는 약 2,300만 명에서 7,000만 명에 가까운 미국 유권자에게 영향을 미쳤으며 처음 광고가 배포된 이후 약 1년 동안 그 존재조차 알려지지 않았다.
그러나 페이스북은 자사의 사생활 보호 규정 위반 가능성을 구실로, 광고의 구체적 내용을 국회와 언론에 공개하는 것을 거부했다(페이스북 스스로도 이들 계정이 가짜라는 것을 인정했음에도 불구하고 존재하지도 않는 사용자의 사생활을 보호한다고 주장한다). 페이스북에 따르면, 이들 광고는 ‘사용자의 이데올로기 스펙트럼 상에서 사회적, 정치적으로 분열시키는 메시지를 담고 있었다’고 한다.
‘트롤 팜’이란 무엇인가
10만 달러에 육박하는 비용을 들여 페이스북에 광고를 게재한 기업의 이름은 다름아닌 ‘인터넷 리서치 에이전시(Internet Research Agency)’였다. IRA는 러시아에 본사를 둔 기업으로 2년 전 뉴욕타임스에서 소개되기도 했다. 이에 따르면 IRA는 “‘트롤링(trolling, 인터넷 공간에 공격적이고 불쾌한 내용을 올려 타인의 화를 부추기는 행위)’ 기술을 산업화한 기업”이다. 말 그대로 인터넷 상에서 ‘트롤링’을 해 주는 대가로 돈을 받으며, 심지어 직원이 올리는 포스트가 미국인이 올린 것처럼 보이도록 영어 문법을 교육하기까지 했다.
미 대선이 끝난 직후 IRA는 ‘글라브셋(Glavset)’으로 기업명을 바꾸고 자매 회사인 페데럴 뉴스 에이전시(Federal News Agency)를 설립했다. 이 새로운 회사는 선동 목적의 뉴스 웹사이트 16개를 운영하며 200명이 넘는 풀타임 저널리스트와 에디터를 고용하고 있다. 이러한 ‘트롤링 공장’의 존재와, 러시아와의 관련성에 관심이 집중되면서 이들 기업이 실제로는 특정인의 기업이라는 사실이 묻히는 듯 하다. 바로 사업가이자 요식업계 거물인 에브게니 프리고친이다. 그의 회사는 말하자면 ‘허위 정보 서비스’를 제공하는 DaaS(Disinformation as a Service) 업체다.
사이버 보안업체 파이어아이(FireEye)의 보고서를 보면, 러시아 기관, 사용자, 봇이 수백에서 수천 개의 ‘가짜 미국인 계정’을 만들어 인터넷 상에서 활동했다. 이 ‘가짜 미국인’들은 온라인 상에서 대선을 주제로 이루어 지는 대화에 참여해 여론을 조작하려 한 것으로 드러났다. 이들 가짜 계정은 이름 알파벳 순서대로, 불과 몇 초 간격으로 같은 메시지를 끊임없이 재생산했다.
막 오른 ‘컴퓨테이셔널 프로파간다’ 시대
이른바 '컴퓨테이셔널 프로파간다(computational propaganda)'다. 옥스퍼드 대학의 ‘컴퓨테이셔널 프로파간다 프로젝트(Computational Propaganda Project)’에서 유래한 것으로, 자동화, 봇넷, 알고리즘, 빅데이터, 그리고 인공 지능 등의 기술을 이용해 인터넷 상에서 여론을 조작하려는 시도를 일컫는다.
컴퓨테이셔널 프로파간다 테크닉을 이용한 온라인 상의 허위 정보 유통 작전은 2010년 처음 등장한 이후 지난 해 미국 대선을 기점으로 사이버 세상의 주류로 자리잡았다. 워싱턴 대학 교수 및 연구원인 케이트 스타버드에 따르면, 허위 정보를 퍼뜨리는 궁극적 목적은 독자를 혼란하게 만들어 ‘정보’ 자체에 대한 신뢰를 떨어뜨리는 것이다.
지금까지는 허위 정보 캠페인의 주요 목표가 정부 기관이나 미디어였다. 페이크 뉴스가 주로 사용하는 기법은 ‘진짜 뉴스’ 소스인 미디어를 도리어 ‘가짜 뉴스’라고 매도하고 지속적으로 공격하는 것이었다. 최대한 많은 이들이 백기를 들고 “그 어떤 소스도 믿을 수 없어 뉴스는 믿을 게 못 돼”라고 외치게 만드는 것이 이들의 목표이다. 이러한 정서가 널리 퍼지면 제대로된 언론이 정치인을 고발해도 그 보도의 권위는 추락하고 모든 민주적 기관에 대한 대중의 신뢰 역시 약해진다.
가짜 뉴스의 미래
사실 이제까지 러시아를 비롯한 기타 기관에서 주도한 허위 정보 유출 작전은 상당히 조잡할 뿐만 아니라 마음만 먹으면 얼마든지 그 경로를 추적할 수 있을 정도로 허술했다. 그러나 미래의 허위 정보 캠페인은 이보다 훨씬 더 교묘해질 것이며 방어하기 어려울 수 있다. 단적인 예로, 허위 정보 유출 경로가 갈수록 다각화되고 있다. 인공 지능과 CGI 기술의 발전으로 이제는 정말 그럴듯하게 사람의 목소리는 물론 모습까지 조작할 수 있다. 내가 전혀 간 적도 없는 곳에서, 한 적도 없는 말이나 행동을 진짜처럼 꾸며낼 수 있다.
워싱턴 대학 연구진은 A.I.를 이용해 버락 오바마 전 대통령이 실제로는 한 적 없는 말을 하는 것처럼 보여주는 가짜 영상을 만들어 낼 수 있음을 증명했다. 스탠퍼드 대학 연구팀은 ‘페이스 투 페이스(Face2Face)’라는 것을 개발했는데, 가짜 실시간 영상을 만들 수 있는 기술로, 라이브 비디오 채팅에서 다른 사람을 손쉽게 사칭할 가능성을 제시했다.
이들 기술은 아직까지는 미완성 단계이지만 시간이 흐르고 기술이 발전하면서 점점 완성도를 높여나갈 것이다. 그 밖에도 어도비나 캐나다 스타트업 라이어버드(Lyrebird) 등은 유명인의 가짜 음성을 그럴듯하게 재현하기도 했다. 이 목소리를 이용해 이들이 한 적 없는 말을 얼마든지 꾸며낼 수 있는 것이다.
스탠퍼드 연구팀과 어도비가 개발한 기술은 핸드폰이나 비디오 채팅 상으로 타인인 척 사칭하는 실시간 ‘스푸핑(spoofing)’을 가능하게 할 것이다. 최악의 경우 실제 언론에서 소스를 가장한 허위 정보에 속아 가짜 뉴스를 내 보낼 수도 있다. 뿐만 아니라 ‘CEO 가장 사기’라는 소셜 엔지니어링에도 활용될 수 있다. CEO 가장 사기란 회사에서 높은 직위에 있는 중요 인물을 가장해 부하 직원에게 접근해 해외 계좌로 돈을 송금하라고 하거나 중요 정보가 담긴 문서를 보내라고 하는 수법이다.
트럼프의 대통령 당선에 기여한 ‘케임브리지 애널리티카(Cambridge Analytica)’ 역시 DaaS의 미래를 잘 보여준다. 이 업체는 각 소셜 미디어 사용자의 심리를 분석해 각 개인이 열망하는 것, 두려워하는 것, 집착하는 것 등을 알아내 거기에 맞는 맞춤형 광고를 내보냈다. 어쩌면 미래에는 선거 운동이 유권자 집단이 아닌 개개인을 대상으로 이루어지며 법망의 규제를 교묘하게 피해 여론을 조작하는 방식으로 흘러갈 지도 모른다.
‘(허위)정보 기술’에 대비하라
다시 IT(정보 기술, Information Technology)’에 초점을 맞춰 논의를 진행해 보자. 기업의 기술은 대체로 사실이라고 생각되는 정보를 이용하고 공유하고 액세스, 프로세싱, 저장, 보호 및 관리하는 데 초점이 맞춰져 있다. 그리고 사용자 에러, 해킹, 자연 재해 등이 이러한 ‘진짜 정보’를 위협하는 존재라고 알려져 있었다. 보안 전략 역시 라이벌 기업이나 범죄 조직에서 ‘진짜 정보’를 훔치거나 인질로 잡는 것을 예방하는 데 초점이 맞춰져 있었다.
그러나 머지 않은 미래에 IT 보안은 정보를 안전하게 보호하는 것에서 정보의 변질을 막는 쪽으로 그 초점이 이동해 갈 것이다. 두 가지 암울한 시나리오를 상상해 보자. 먼저 산업스파이다. 미국 지적재산권침해위원회에 따르면, 산업 기술의 절도가 한 해 미국 경제에 미치는 손해는 2,250억~6,000억 달러다.
타 기업의 정보를 훔치는 이유는 기술적 측면에서 뒤처지는 기업이 손쉽게, 그리고 빠르게 앞서나가는 기업을 따라잡기 위해서다. 그렇지만 경쟁사의 산업 기술에 관한 정보를 훔치는 게 아니라 그저 내부적으로 가짜 데이터를 주입해 혼란을 주는 것만으로도 비슷한 효과를 얻을 수 있다면 어떨까? 실제로는 일어나지 않은 이메일 대화를 조작해 기업 내부의 누군가에게 누명을 씌우거나, 가짜 정보를 이용해 직원을 협박할 수 있다면? 또, 투자자에게 가짜 정보를 흘려 투자가 저조해지도록 만들 수 있다면?
이처럼 허위 정보는 네거티브 마케팅에도 놀라울 정도로 효과적이다. 실제로 오늘날 정치계에서는 이미 이런 일들이 일어나고 있다. 냉전 당시 서구 세계와 소비에트 연방 국가는 각자 민주주의와 공산주의의 우열을 놓고 다투었다.
하지만 이제는 전략의 방향이 바뀌었다. 러시아 국민들 역시 관리의 부패 등 러시아가 안고 있는 고질적인 문제를 잘 알고 있고, 미국, 서유럽 등지의 국가 운영이 더 투명하다는 것을 믿는다. 이런 국민에게 ‘러시아가 더 살기 좋은 나라다’라고 설득하는 것은 효과가 없다. 그러나 ‘알고 보면 서구 세계도 별 다를 것 없다’는 이야기라면 달라진다. 또 실제로 미국 및 서유럽 국가에서 허위 정보 유출 캠페인을 통해 민주주의의 기반을 뒤흔들어 놓는다면 그 효과는 생각보다 더 클 것이다.
허위 정보와 비즈니스가 만나면
마케팅에서도 비슷한 논리가 적용된다. 도덕성이 결여된 기업이 있다고 하자. 이 기업이 스마트폰을 만드는데, 애플의 아이폰과 시장에서 경쟁하는 상황이다. 자사 제품의 우월성을 주장하는 대신, 이 기업은 컴퓨테이셔널 프로파간다를 이용해 애플의 세계적 평판을 깎아 내리는 데 주력할 것이다. 페이스북의 애널리틱스 기술을 활용해 잠재적 아이폰 구매자를 찾아낸 후 심리를 분석할 것이다. 그리고 가짜 사용자의 가짜 리뷰를 통해 애플의 생산 과정이 환경을 파괴한다든지, 기기가 폭발해 안전하지 못하다든지, 수리 비용이 엄청나게 많이 든다든지 하는 식으로 각 개인이 가장 우려하고 신경 쓰는 부분에 대한 거짓 정보를 흘려 구매를 망설이게 만들 것이다.
이 밖에도 아이폰의 안정성에 대한 데이터를 조작하고 아이폰 사용자를 대상으로 한 폭행 사건을 꾸며내거나, 애플이 직원의 노동권을 침해한다는 내용의 가짜 영상을 제작할 수도 있다. 이 모든 가짜 정보는 특히 A.I.의 도움을 받아 제작, 유포되며 법망을 피해 교묘하게 사람의 마음을 움직이려 할 것이다.
잠행과 스파잉, 그리고 고객 비밀 보장을 전문으로 하는 DaaS 업계의 성장은 이러한 가능성을 더욱 빠르게 현실화 시킬 것이다. 고객의 요청에 의해 수천 개 페이스북 광고를 사들인 DaaS 업체의 출현은 단지 러시아에서 잠깐 등장했다 곧 사라질 일회성 이벤트가 아니다. 이는 앞으로 우리의 현실이 될 거대한 변화의 물결의 첫 신호탄이다. 미래에는 허위 정보의 제작, 유통이 하나의 비즈니스가 될 것이다. 그리고 기업 역시 그 타깃에서 벗어날 수 없다. ciokr@idg.co.kr