Offcanvas

AI / 검색|인터넷 / 라이프 / 머신러닝|딥러닝 / 보안 / 분쟁|갈등 / 블록체인 / 신기술|미래

기고 | 가짜 뉴스 문제, ‘AI’와 ‘블록체인’에 거는 기대

2022.05.20 Marc Ambasna-Jones  |  IDG Connect
러시아의 우크라이나 침공으로 인해 온라인 가짜 뉴스가 범람하고 있다. 오정보 방지 기업 뉴스가드(NewsGuard)는 현재 전쟁에 대한 거짓 정보 배포처로 추정되는  201개의 사이트를 추적하고 있다

가짜 뉴스 및 이에 의도적 배포는 새로운 문제가 아니다. 전쟁으로 가속화됐을 뿐이다. 영국은 1942년 독일 사람들에게 전쟁의 실제 양상을 알리기 위해 아스피디스트라(Aspidistra)라는 전송기를 구축했던 바 있다.
 
Image Credit : Getty Images Bank


문제는 오정보가 지속적으로 증가한다는 사실이다. 비단 러시아와 우크라이나만의 문제가 아니다. 코로나19 팬데믹 절정기뿐 아니라 최근 미국과 유럽의 선거 및 국민투표 중에도 증가했다. 의견 양극화와 데이터 탈취 가능성이 함께 증가하고 있다.

한편에서는 가짜 뉴스 전파에 AI가 활용되고 있다는 의혹이 피어나고 있다. ISD(Institute for Strategic Dialogue)의 선임연구위원 줄리아 에브너는 최근 러시아가 AI를 사용하여 온라인에서 불만을 확인하고 증폭시키며 악용한 방식에 대해 설명했다. 최근 시티포럼(Cityforum) 웨비나에서 그녀는 러시아가 AI를 사용해 극단주의자 이데올로기와 음모론을 무기화했다고 말했다.

하지만 AI는 이에 대응할 수 있는 잠재력도 가지고 있다. 인간은 대개 사기에 취약하다는 점에서 의미가 크다. WEF가 최근 보고서 ‘정보를 정제하는 능력’에서 ‘과학 지식과 인지 능력이 부족하고 약한 주장을 받아들이는 경향이 있는’ 사람만 가짜 기사를 믿는 것이 아니라고 경고했다. 그 누구도 가짜뉴스에의 현혹에서 안전할 수 없다는 경고다.

독일의 GISMA 경영대학원의 데이터 사이언스 교수 모하매드 마다비는 “AI는 가짜 뉴스 찾기의 범위와 정확도를 높일 수 있으며, 특히 우리가 원문 데이터에 집중할 때 더욱 그렇다. 우리가 뉴스 영역을 충분히 좁히면 AI를 훈련하여 지구 평면설 등 특정 오정보를 자동으로 식별할 수 있다. 우크라이나 전쟁에 관한 모든 가짜 뉴스 또는 선전 등 더욱 광범위한 뉴스 영역은 AI가 사실 확인 프로세스를 지원할 수 있다”라고 말했다.

디지털 전환 기업 UST의 최고 AI 아키텍트 애드난 마수드도 이에 동의했다. 그는 가짜 뉴스, 오정보 및 허위 정보가 심각한 문제를 야기하지만 다행히도 AI가 큰 역할을 할 수 있다고 전했다.

그는 “AI는 인코더/디코더 모델을 사용하여 텍스트 생성 방식을 추적하고 인간이 작성한 것과 어떤 소셜 미디어 대화가 순수하게 인공적인지 판단할 수 있다”라고 말했다. 그에 따르면 봇이 작성한 글의 숨길 수 없는 조짐은 NLG 알고리즘의 서명과 특정 키워드(‘돈바스’와 ‘비나치화’ 및 ‘생물 무기’가 러시아 선전주의자들이 선호하는 단어이다)를 살펴보면 확인할 수 있다. 이 과정에서 자연어 확인 도구를 도입할 수 있다.

예를 들어, 러시아 인터넷 트래픽 중 45%가 봇에 의한 것이기 때문에 봇 트래픽을 명확히 표적으로 삼는 것이 효율적인 기법이라고 마수드가 덧붙였다. 나아가 마다비가 제안했듯이 기술은 인간이 온라인에서 잠재적인 가짜 주장을 뿌리뽑고 AI를 사용하여 증거를 수집하고 결합하여 가짜 뉴스와 오정보를 확인하는 데 도움이 될 수 있다. 아직은 안타깝게도 AI는 아직 그런 수준에 도달하지 못했다.

마다비는 기계가 아직 이런 작업을 인간의 개입 없이 완전 자동화 방식으로 수행할 수 없으며, 뉴스 영역이 넓을 때 더욱 그러하다고 설명했다.

그는 “기계가 가짜 및 실제 뉴스를 학습하기 위해 훈련 데이터가 필요하다는 점이 아직 문제다. 뉴스 영역이 넓으면 기계에게 해당 영역의 각종 허위 정보를 가르치기 위한 충분한 훈련 데이터를 확보하는 것이 어려워진다. 단 기계는 사실 확인 프로세스의 속도를 높이기 위해 인간을 위한 의사결정 지원 시스템으로 작용할 수 있다. 기계가 관련된 증거를 수집하고 제공하며 최종 검증 작업은 인간이 수행하는 것이다”라고 말했다.

블록체인도 한몫 할 수 있다. 블록체인을 이용해 문제의 근원에 접근하며 명망 높은 출처에서 기사와 정보가 ‘검증’되도록 하는 것이다. 핵심은 블록체인이 최소한 명망 있는 출처로부터 나온 것으로 가장한 기사를 즉시 찾을 수 있는지 여부다.

마수드는 분산원장과 블록체인 기술이 상당한 역할을 할 수 있다고 말했다. 그는 이를 활용해 ‘여러 양식의 기사가 명망 있는 출처의 것인지 추적하여 검증하는’ 추가적인 인증 계층을 제공할 수 있다고 제안했다.

하지만 그것이 어떤 식으로 작동한다는 이야기일까? 그는 “언론인에게 대체 불가능하고 투명한 토큰을 할당한다. 변경할 수 없는 디지털 원장 위에 콘텐츠를 정리하여 기사에 대한 검증을 제공할 수 있겠다. 분산원장은 콘텐츠의 실제 출처를 파악하기 위해 필요한 소유권 추적성을 제공한다”라고 설명했다.

마수드는 이어 “미디어 아웃렛과 개인 언론인에 대한 신뢰성 점수를 생성함으로써 블록체인 기술은 미디어에 대한 신뢰를 회복할 수 있는 힘이 있다. 블록체인 시스템은 탈중앙화 원장에 의존하여 각 사용자가 지속적으로 검증하고 재검증하는 방식으로 정보를 기록하기 때문에 변경 또는 위조가 거의 불가능하다”라고 덧붙였다.

진실성을 거의 보상할 수 있는 경로에 미디어를 둔다는 생각은 흥미롭다. 마수드는 출처를 통해 출판물을 추적하는 ‘명성 시스템’에 대한 아이디어를 제시했다. 원본 콘텐츠 소유자와 작성자는 분산원장을 통해 검증 및 추적한다.

실행 가능한 아이디어지만 문화적인 어려움이 있다. AI의 경우 데이터 편향의 문제도 있다. 가짜 뉴스를 확인하는 파라미터는 무엇인가? 누가 결정하는가? 한편 다른 오정보 방지 사이트인 풀 팩트(Full Fact)도 최근 규제 당국이 고려할  만한 10점 계획을 공개했다. 현재로서는 기술보다는 마인드셋에 좀더 초점을 맞추는 계획이다. 향후 기술과의 접목이 좀더 이뤄진다면 혁신과 변화의 가능성을 기대할 만하다.  ciokr@idg.co.kr
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.