2020.02.21

블록체인으로도 가짜뉴스를 막을 수 없는 이유

Lucas Mearian | Computerworld
IT를 이용해 얼마나 쉽게 동영상을 조작하고 가짜 뉴스를 만들 수 있는지를 설명해주는 버락 오바마 전 미국 대통령의 동영상이 지난해 유튜브에 올라온 적이 있다. 이 동영상은 720만 건이 넘는 조회 수를 기록했다. 이 '동영상 속 오바마'는 ‘적들이’이 아무나 어떤 시점에 아무 말이나 하게 만들 수 있는 얼마나 위험한 시대에 우리가 살아가고 있는지를 설명한다. 그리고 잠시 후, 동영상 자체가 가짜였다는 것이 밝혀졌다.
 
© Getty Images Bank

뉴스 기사든 이미지든 비디오든 가짜와 오해의 소지가 있는 콘텐츠가 지난 5년 동안 인터넷 전체에 확산했다. 이 문제에 현재 한 가지 가능한 해결책이 제안되고 있는데, 콘텐츠가 온라인에서 어떻게 전달되는지 표준화하고 이 표준 외의 내용은 신뢰하지 않는 방식이다. 즉, 뉴스와 기타 웹 콘텐츠를 화이트 리스트하는 방법으로써 블록체인을 사용하는 것이다.

웹 3.0 진화의 일환으로, 블록체인은 분산형 웹을 만드는 데 사용되고 있다. 변경 불가능한 원장이 콘텐츠에 대한 정보를 기록한 후 그 진위를 보장하기 위해 해당 콘텐츠에 '불가분하게' 연결된다. 동시에 개인 데이터 저장소를 이용해 기업과 개인이 그들이 만들거나 소비하는 콘텐츠에 대한 통제권을 유지할 수 있도록 지원하는 식이다.

지난 12월에 나온 가트너 2020 예측 보고서에 따르면, 2023년까지 전 세계 뉴스 및 비디오 콘텐츠의 최대 30%가 딥 페이크 기술에 맞서 사실상 블록체인에 의해 진짜인 것으로 인증될 전망이다. 가트너 연구 부사장인 아비바 리탄은 최근 블로그에서 “블록체인을 이용하면 뉴스(텍스트 또는 비디오 콘텐츠)의 기원을 추적할 수 있으므로 콘텐츠의 소비자가 그 출처를 알 수 있고 변경되지 않았다고 확신할 수 있다. 블록체인에 소셜 미디어와 소셜 네트워크를 적용하면 사용자는 자신의 정보뿐만 아니라 자신의 정보 흐름을 지시하는 알고리즘과 필터도 제어할 수 있다”라고 말했다.

비슷한 시기 트위터의 CEO인 잭 도시는 트위터가 “소셜 미디어를 위한 개방적이고 분산된 표준을 개발하기 위해 오픈소스 설계자, 엔지니어, 디자이너로 구성된 소규모이면서 독립적인 팀 5곳 이상에 투자하고 있다"라고 말했다. 사용자가 원하는 것을 읽을 수 있도록 하기 위한 것으로, 블록체인 기반의 필터를 제공해 그들이 원하는 콘텐츠 또는 그들이 선택한 필터링 되지 않은 콘텐츠를 인증하는 것이라고 리탄은 설명했다.

지난 2년 동안 가짜뉴스에 맞서기 위한 여러 주목할 만한 블록체인 프로젝트가 등장했다. 뉴욕타임스가 후원하는 뉴스 출처 프로젝트, 딥 트러스트 얼라이언스, PO.ET 등은 뉴스, 이미지, 동영상이 웹에 쏟아지는 방식을 표준화하기 위한 노력으로, 창작자에서 소비자까지의 여정을 기록한다. 예를 들어 Po.et는 콘텐츠를 타임 스탬프하고 기존 미디어 산업 상호운용성 표준을 활용하는 변경 불가능한 기록을 만드는 비트코인 블록체인 기반의 분산 시스템을 개발 중이다.

뉴스 출처 프로젝트는 IBM의 게라지(Garage)와 협력해 하이퍼레저 패브릭 블록체인을 사용해 누가 촬영했는지, 어디서 촬영됐는지, 언제 편집되고 공개됐는지 등 뉴스 사진과 동영상에 대한 상황별 메타데이터를 저장하는 개념 증명을 만들었다. 여기서 블록체인은 언제, 어디서, 누구에 의해 찍혔는지, 누가 그것을 공개했는지, 어떻게 그것이 뉴스 조직 네트워크를 통해 사용됐는지에 대한 사진의 기원을 기록하게 된다.

딥 트러스트 얼라이언스는 IBM 블록체인의 글로벌 제품 매니지먼트 담당 이사였던 캐서린 해리슨이 설립했다. 그는 하이퍼레저 패브릭 개발 및 하이퍼레저 패브릭에 대한 기업용 관리형 서비스를 개발하는 데 기여한 바 있다.

리탄은 “이런 움직임의 대부분은 인터넷에 널리 퍼지지도 않은 딥 페이크 동영상과 이미지에서 출발하는데 이는 가짜 콘텐츠의 매우 일부에 불과하다. 시작하게 쉽기 때문에 여기를 출발점으로 잡는 것이다”라고 말했다. 실제로 수작업으로 조작한 콘텐츠와 달리 딥 페이크 뉴스는 AI와 GAN(Generative Adversarial Network)로 알려진 머신러닝 기술에 의해 대량으로 자동 생성되는 이미지나 동영상이다.

그러나 전자 프론티어 재단(Electronic Frontier Foundation)의 전략 책임자인 대니 오브라이언은 사회 문제를 해결하기 위해 기술을 사용하는 것은 거의 효과가 없다고 지적했다. 가트너 예측을 비판하며 2023년이 돼도 블록체인으로 인증하지 않은 뉴스가 전체의 30%에 달할 것이라는 데 10비트코인을 걸겠다고 장담(?)했다.

그는 "어떤 사람들은 가짜 뉴스 문제에 대한 해결책이 진정한 뉴스를 보증하는 시스템을 만드는 것이라고 믿지만 이미 실패의 징후가 일부 확인됐다. 첫째, (인증된) 뉴스로 내놓았다고 해서 모두 사실인 것은 아니다. 둘째, 가짜 뉴스에 반응하는(공유하는) 사람들은 그것이 사실인지 알아보려는 동기가 거의 없다”라고 말했다. 결국 자신이 좋아하는 이야기라면, 그 뉴스가 진짜인지 아닌지 판단하려는 비판적 사고를 하지 않는 것이다.

그래서 주목해야 하는 것이 바로 뉴욕 타임스의 뉴스 출처 프로젝트다. 이는 기사에서 시작하지 않았다. 리탄은 “소프트웨어가 픽셀을 검사하고 픽셀이 변경되었는지, 진품으로 남아 있는지를 판단한다. 이미지를 가지고 실험하는 것에서 이 프로젝트가 시작됐다”라고 말했다. 반면 작성된 텍스트를 인증하는 가장 좋은 방법은 그것을 생산한 출처를 둘러싼 업계의 합의일 것이다. 즉, 블록체인의 기본 합의 알고리즘을 사용해 콘텐츠 제작자가 공개 전에 동의할 수 있도록 하는 것이다.

리탄은 “블록체인의 가장 좋은 용도는 콘텐츠 관리다. 모든 사람이 자신의 이야기와 그것에 대한 모든 편집을 (암호로) 서명하는 콘텐츠 관리 시스템을 채택한 뒤 이를 기록하고 블록체인을 이용해 인증하면 콘텐츠가 가짜일 가능성은 제로일 것이다”라고 말했다. 그러나 여기에도 예외가 있을 수 있다. 정치적 목적으로 이야기를 구성하는 국가 운영자가 만든 악의적인 가짜 뉴스 같은 것이다. 오브라이언은 "모든 뉴스 생산자가 가입하는 시스템을 만드는 것은 불가능하므로, 결국 인증 시스템 가입 여부는 거의 문제가 되지 않는다"라고 말했다.

모든 언론이 단일 콘텐츠 관리 시스템에 동의할 가능성은 없다는 점에 대해 리탄도 동의한다. 대신 그는 진정한 뉴스 출처를 화이트리스트하는 것과 함께 다양한 방식으로 블록체인을 사용하는 방법이 연구되는 것은 고무적이라고 평가했다. 구체적으로 다음과 같다.
 
  1. 인증(Authentication) : 블록체인으로 기록하고 추적하는 기사(예컨대, 뉴스, 식품, 전자제품)의 진위를 보증하는 전자 충격 테스트나 스펙트럼 이미징 등의 기타 기술.
  2. 블랙리스팅(Blacklisting) 또는 이상 탐지(Anomaly Detection) : AI 및 머신러닝 모델을 사용해 블록체인에 공급되는 블록체인 안팎의 자산, 정보, 활동에 대한 행동 또는 데이터 이상을 탐지하는 방법
  3. 물리 및 가상 진실을 연결하기(Bridging Physical and Virtual Truth) : 블록체인에 기록된 가상 비즈니스 이벤트 ‘참(truth)’과 물리적 ‘참(truth)’을 연결하는 IoT 센서/네트워크/디지털 트윈스.

리탄은 “분권형 소셜 네트워크 플랫폼은 여전히 왜곡된 선정적인 뉴스를 제공할 수 있지만, 아마도 사용자가 '읽기'로 선택한 경우에만 그럴 것이다. 블록체인 출처를 통해 이 뉴스의 출처를 확신할 수 있을 것이다. 결국 악당들의 가짜 뉴스를 읽는 것은 사용자의 '의식적인' 선택이 될 것이다”라고 말했다. editor@itworld.co.kr



2020.02.21

블록체인으로도 가짜뉴스를 막을 수 없는 이유

Lucas Mearian | Computerworld
IT를 이용해 얼마나 쉽게 동영상을 조작하고 가짜 뉴스를 만들 수 있는지를 설명해주는 버락 오바마 전 미국 대통령의 동영상이 지난해 유튜브에 올라온 적이 있다. 이 동영상은 720만 건이 넘는 조회 수를 기록했다. 이 '동영상 속 오바마'는 ‘적들이’이 아무나 어떤 시점에 아무 말이나 하게 만들 수 있는 얼마나 위험한 시대에 우리가 살아가고 있는지를 설명한다. 그리고 잠시 후, 동영상 자체가 가짜였다는 것이 밝혀졌다.
 
© Getty Images Bank

뉴스 기사든 이미지든 비디오든 가짜와 오해의 소지가 있는 콘텐츠가 지난 5년 동안 인터넷 전체에 확산했다. 이 문제에 현재 한 가지 가능한 해결책이 제안되고 있는데, 콘텐츠가 온라인에서 어떻게 전달되는지 표준화하고 이 표준 외의 내용은 신뢰하지 않는 방식이다. 즉, 뉴스와 기타 웹 콘텐츠를 화이트 리스트하는 방법으로써 블록체인을 사용하는 것이다.

웹 3.0 진화의 일환으로, 블록체인은 분산형 웹을 만드는 데 사용되고 있다. 변경 불가능한 원장이 콘텐츠에 대한 정보를 기록한 후 그 진위를 보장하기 위해 해당 콘텐츠에 '불가분하게' 연결된다. 동시에 개인 데이터 저장소를 이용해 기업과 개인이 그들이 만들거나 소비하는 콘텐츠에 대한 통제권을 유지할 수 있도록 지원하는 식이다.

지난 12월에 나온 가트너 2020 예측 보고서에 따르면, 2023년까지 전 세계 뉴스 및 비디오 콘텐츠의 최대 30%가 딥 페이크 기술에 맞서 사실상 블록체인에 의해 진짜인 것으로 인증될 전망이다. 가트너 연구 부사장인 아비바 리탄은 최근 블로그에서 “블록체인을 이용하면 뉴스(텍스트 또는 비디오 콘텐츠)의 기원을 추적할 수 있으므로 콘텐츠의 소비자가 그 출처를 알 수 있고 변경되지 않았다고 확신할 수 있다. 블록체인에 소셜 미디어와 소셜 네트워크를 적용하면 사용자는 자신의 정보뿐만 아니라 자신의 정보 흐름을 지시하는 알고리즘과 필터도 제어할 수 있다”라고 말했다.

비슷한 시기 트위터의 CEO인 잭 도시는 트위터가 “소셜 미디어를 위한 개방적이고 분산된 표준을 개발하기 위해 오픈소스 설계자, 엔지니어, 디자이너로 구성된 소규모이면서 독립적인 팀 5곳 이상에 투자하고 있다"라고 말했다. 사용자가 원하는 것을 읽을 수 있도록 하기 위한 것으로, 블록체인 기반의 필터를 제공해 그들이 원하는 콘텐츠 또는 그들이 선택한 필터링 되지 않은 콘텐츠를 인증하는 것이라고 리탄은 설명했다.

지난 2년 동안 가짜뉴스에 맞서기 위한 여러 주목할 만한 블록체인 프로젝트가 등장했다. 뉴욕타임스가 후원하는 뉴스 출처 프로젝트, 딥 트러스트 얼라이언스, PO.ET 등은 뉴스, 이미지, 동영상이 웹에 쏟아지는 방식을 표준화하기 위한 노력으로, 창작자에서 소비자까지의 여정을 기록한다. 예를 들어 Po.et는 콘텐츠를 타임 스탬프하고 기존 미디어 산업 상호운용성 표준을 활용하는 변경 불가능한 기록을 만드는 비트코인 블록체인 기반의 분산 시스템을 개발 중이다.

뉴스 출처 프로젝트는 IBM의 게라지(Garage)와 협력해 하이퍼레저 패브릭 블록체인을 사용해 누가 촬영했는지, 어디서 촬영됐는지, 언제 편집되고 공개됐는지 등 뉴스 사진과 동영상에 대한 상황별 메타데이터를 저장하는 개념 증명을 만들었다. 여기서 블록체인은 언제, 어디서, 누구에 의해 찍혔는지, 누가 그것을 공개했는지, 어떻게 그것이 뉴스 조직 네트워크를 통해 사용됐는지에 대한 사진의 기원을 기록하게 된다.

딥 트러스트 얼라이언스는 IBM 블록체인의 글로벌 제품 매니지먼트 담당 이사였던 캐서린 해리슨이 설립했다. 그는 하이퍼레저 패브릭 개발 및 하이퍼레저 패브릭에 대한 기업용 관리형 서비스를 개발하는 데 기여한 바 있다.

리탄은 “이런 움직임의 대부분은 인터넷에 널리 퍼지지도 않은 딥 페이크 동영상과 이미지에서 출발하는데 이는 가짜 콘텐츠의 매우 일부에 불과하다. 시작하게 쉽기 때문에 여기를 출발점으로 잡는 것이다”라고 말했다. 실제로 수작업으로 조작한 콘텐츠와 달리 딥 페이크 뉴스는 AI와 GAN(Generative Adversarial Network)로 알려진 머신러닝 기술에 의해 대량으로 자동 생성되는 이미지나 동영상이다.

그러나 전자 프론티어 재단(Electronic Frontier Foundation)의 전략 책임자인 대니 오브라이언은 사회 문제를 해결하기 위해 기술을 사용하는 것은 거의 효과가 없다고 지적했다. 가트너 예측을 비판하며 2023년이 돼도 블록체인으로 인증하지 않은 뉴스가 전체의 30%에 달할 것이라는 데 10비트코인을 걸겠다고 장담(?)했다.

그는 "어떤 사람들은 가짜 뉴스 문제에 대한 해결책이 진정한 뉴스를 보증하는 시스템을 만드는 것이라고 믿지만 이미 실패의 징후가 일부 확인됐다. 첫째, (인증된) 뉴스로 내놓았다고 해서 모두 사실인 것은 아니다. 둘째, 가짜 뉴스에 반응하는(공유하는) 사람들은 그것이 사실인지 알아보려는 동기가 거의 없다”라고 말했다. 결국 자신이 좋아하는 이야기라면, 그 뉴스가 진짜인지 아닌지 판단하려는 비판적 사고를 하지 않는 것이다.

그래서 주목해야 하는 것이 바로 뉴욕 타임스의 뉴스 출처 프로젝트다. 이는 기사에서 시작하지 않았다. 리탄은 “소프트웨어가 픽셀을 검사하고 픽셀이 변경되었는지, 진품으로 남아 있는지를 판단한다. 이미지를 가지고 실험하는 것에서 이 프로젝트가 시작됐다”라고 말했다. 반면 작성된 텍스트를 인증하는 가장 좋은 방법은 그것을 생산한 출처를 둘러싼 업계의 합의일 것이다. 즉, 블록체인의 기본 합의 알고리즘을 사용해 콘텐츠 제작자가 공개 전에 동의할 수 있도록 하는 것이다.

리탄은 “블록체인의 가장 좋은 용도는 콘텐츠 관리다. 모든 사람이 자신의 이야기와 그것에 대한 모든 편집을 (암호로) 서명하는 콘텐츠 관리 시스템을 채택한 뒤 이를 기록하고 블록체인을 이용해 인증하면 콘텐츠가 가짜일 가능성은 제로일 것이다”라고 말했다. 그러나 여기에도 예외가 있을 수 있다. 정치적 목적으로 이야기를 구성하는 국가 운영자가 만든 악의적인 가짜 뉴스 같은 것이다. 오브라이언은 "모든 뉴스 생산자가 가입하는 시스템을 만드는 것은 불가능하므로, 결국 인증 시스템 가입 여부는 거의 문제가 되지 않는다"라고 말했다.

모든 언론이 단일 콘텐츠 관리 시스템에 동의할 가능성은 없다는 점에 대해 리탄도 동의한다. 대신 그는 진정한 뉴스 출처를 화이트리스트하는 것과 함께 다양한 방식으로 블록체인을 사용하는 방법이 연구되는 것은 고무적이라고 평가했다. 구체적으로 다음과 같다.
 
  1. 인증(Authentication) : 블록체인으로 기록하고 추적하는 기사(예컨대, 뉴스, 식품, 전자제품)의 진위를 보증하는 전자 충격 테스트나 스펙트럼 이미징 등의 기타 기술.
  2. 블랙리스팅(Blacklisting) 또는 이상 탐지(Anomaly Detection) : AI 및 머신러닝 모델을 사용해 블록체인에 공급되는 블록체인 안팎의 자산, 정보, 활동에 대한 행동 또는 데이터 이상을 탐지하는 방법
  3. 물리 및 가상 진실을 연결하기(Bridging Physical and Virtual Truth) : 블록체인에 기록된 가상 비즈니스 이벤트 ‘참(truth)’과 물리적 ‘참(truth)’을 연결하는 IoT 센서/네트워크/디지털 트윈스.

리탄은 “분권형 소셜 네트워크 플랫폼은 여전히 왜곡된 선정적인 뉴스를 제공할 수 있지만, 아마도 사용자가 '읽기'로 선택한 경우에만 그럴 것이다. 블록체인 출처를 통해 이 뉴스의 출처를 확신할 수 있을 것이다. 결국 악당들의 가짜 뉴스를 읽는 것은 사용자의 '의식적인' 선택이 될 것이다”라고 말했다. editor@itworld.co.kr

X