Offcanvas

AI / 머신러닝|딥러닝

'딥페이크 이미지 출처 찾는다'··· 페이스북, 자체 리버스 엔지니어링 기술 발표

2021.06.18 박예신  |  CIO KR
페이스북이 딥페이크에 사용된 AI의 출처를 찾아낼 수 있는 기술을 미 대학 연구진과 함께 개발했다고 16일(현지시간) 블로그를 통해 발표했다. 이 기술을 통해 딥페이크 기반 부정행위를 효과적으로 검출할 수 있다는 설명이다. 

페이스북은 미시간 주립대 연구진과 공동 개발한 리버스 엔지니어링 기술을 통해 특정 딥페이크 제작에 사용된 AI 모델을 추적할 수 있다고 말했다. 
 
ⓒFacebook

페이스북에 따르면 딥페이크 생성 모델은 딥페이크 이미지에 고유의 지문(fingerprint)을 남긴다. 이 지문은 네트워크 레이어 개수, 블록 개수 등 생성 모델마다 아키텍처를 구성하는 고유한 특성(하이퍼 파라미터)이 있기 때문에 생겨난다. 

이번 리버스 엔지니어링은 이 지문을 추적함으로써 해당 딥페이크를 생성한 모델을 식별하는 기술이다. 규모, 반복적 특성, 주파수 대역 등 지문의 일반적 특성을 두루 고려해 생성 모델의 정보를 예측한다. 

이 기술은 마치 자동차별 소리를 바탕으로 구성요소를 파악하는 것과 같다는 설명이다. 자동차마다 기본적인 외양은 비슷해 보여도 내부의 엔진이나 구성품이 다르면 소리도 다르게 난다. 이 리버스 엔지니어링은 바로 이 소리를 듣고서 자동차의 구성 요소를 인식하는 것과 같다고 페이스북은 설명했다.

페이스북은 "이 기술을 통해 딥페이크 제작에 사용된 생성 모델을 더욱 잘 유추할 수 있게 됐다"라며 "일련의 딥페이크들 간 패턴의 유사성을 추적함으로써 딥페이크가 하나의 출처로부터 생성됐는지 여부도 알 수 있다"라고 전했다.

이어 "이번 기술을 통해 딥페이크 검출에 대한 이해도를 높였다"라며 "연구자들과 실무진들이 딥페이크 기반 부정행위 사건들을 더욱 면밀하게 조사할 수 있게 됐다"라고 덧붙였다. ciokr@idg.co.kr

 
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.