Offcanvas

AI / 라이프 / 머신러닝|딥러닝 / 분쟁|갈등 / 애플리케이션

조작된 사진과 영상을 AI로 판별··· MS, 딥 페이크 식별 기술 공개

2020.09.03 김달훈  |  CIO KR
한쪽에서는 인공지능이 가짜 콘텐츠를 만드는 데 악용되고, 한쪽에서는 그런 가짜 콘텐츠를 구별하는 데 활용된다. 하지만 아직 많은 사람은 가짜 콘텐츠의 존재에 대해 무지하고, 안다고 하더라도 그 심각성에 대해 무감각한 경우가 적지 않다. 

마이크로소프트가 ‘가짜 콘텐츠’의 구별과 확산에 대응하기 위해 연구해 온 두 가지 새로운 기술을 공식 블로그를 통해 공개했다. 첫 번째는 사진과 영상 속에서 조작되거나 합성된 부분이 있는지를 식별하는 MVA(Microsoft Video Authenticator)고, 두 번째는 진짜 콘텐츠임을 증명하는 인증 기술이다.


마이크로소프트가 공개한 비디오 인증 도구는 사진이나 동영상을 실시간으로 분석한 후, 조작되었을 가능성을 신뢰도 점수를 통해 알려준다. (사진 : Microsoft)

정교하게 조작되거나 합성된 콘텐츠로 인한 피해 사례가 갈수록 많아지고 있다. 사람의 손을 통해 조작이 이루어지던 전통적인 방식에, 인공지능이 가세하면서 양상이 달라졌다. 인공지능으로 조작되거나 합성된 사진, 영상, 오디오 파일은, 기존의 탐지 기술로는 식별이 거의 불가능하고, 인공지능을 사용한다 해도 알아내기가 쉽지 않다.

MVA는 이러한 문제점을 보완하기 위해 개발된 기술로, 사진이나 영상을 분석한 후 조작 가능성을 알려준다. 동영상의 경우는 각각의 프레임을 분석하면서, 실시간으로 가짜일 가능성을 판별한다. 사람의 눈으로 감지할 수 없는 딥 페이크(deepfake), 미묘한 페이딩(fading), 그레이 스케일 요소 등이 혼합된 경계를 감지하는 방식으로 작동한다. 

이 기술은 마이크로소프트 연구소(Microsoft Research)의 인공지능 연구팀(Responsible AI)과 AETHER(Microsoft AI, Ethics and Effects in Engineering and Research)의 협력으로 개발됐다. 페이스 포렌식(Face Forensic ++)의 공개 데이터 세트를 사용했으며, 딥페이크 탐지 데이터베이스(DeepFake Detection Challenge Dataset)에서 테스트 됐다.

진짜 콘텐츠임을 증명하는 기술은 두 가지 요소로 구성된다. 첫 번째는 마이크로소프트 애저(Microsoft Azure)에 내장된 도구를 활용해, 콘텐츠 제작자가 콘텐츠에 디지털 해시와 인증서를 추가할 수 있도록 해주는 것이다. 이렇게 추가된 해시와 인증서는 온라인에서 이동되고 전달될 때, 메타테이터 형태로 유지되면서 진짜임을 증명하게 된다.

두 번째는 이렇게 해시와 인증서가 포함된 콘텐츠를 읽거나 볼 수 있는 리더(Reader)다. 인증서를 확인하고 해시와 일치하는지 확인해서, 변경이나 지위 여부를 판별할 수 있다. 리더는 브라우저 확장이나 다른 형태로 존재할 수 있으며, 제작자에 대한 세부 정보도 제공하게 된다.

마이스크로소프트는 “AI를 활용하는 탐지 방법은 실패 가능성이 있기 때문에, 딥페이크에 대응할 수 있는 준비가 되어 있어야 한다. 따라서 장기적으로 뉴스 기사 및 기타 매체의 진성을 유지하고 인증하는 더 강력한 방법을 모색해야 한다. 현재까지 온라인에서 보고 있는 미디어가 신뢰할 수 있고 변경되지 않았음을 독자에게 보장할 수 있는 도구는 거의 없다”라고 개발 배경을 밝혔다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.