페이스북이 딥페이크에 사용된 AI의 출처를 찾아낼 수 있는 기술을 미 대학 연구진과 함께 개발했다고 16일(현지시간) 블로그를 통해 발표했다. 이 기술을 통해 딥페이크 기반 부정행위를 효과적으로 검출할 수 있다는 설명이다.
페이스북은 미시간 주립대 연구진과 공동 개발한 리버스 엔지니어링 기술을 통해 특정 딥페이크 제작에 사용된 AI 모델을 추적할 수 있다고 말했다.
페이스북에 따르면 딥페이크 생성 모델은 딥페이크 이미지에 고유의 지문(fingerprint)을 남긴다. 이 지문은 네트워크 레이어 개수, 블록 개수 등 생성 모델마다 아키텍처를 구성하는 고유한 특성(하이퍼 파라미터)이 있기 때문에 생겨난다.
이번 리버스 엔지니어링은 이 지문을 추적함으로써 해당 딥페이크를 생성한 모델을 식별하는 기술이다. 규모, 반복적 특성, 주파수 대역 등 지문의 일반적 특성을 두루 고려해 생성 모델의 정보를 예측한다.
이 기술은 마치 자동차별 소리를 바탕으로 구성요소를 파악하는 것과 같다는 설명이다. 자동차마다 기본적인 외양은 비슷해 보여도 내부의 엔진이나 구성품이 다르면 소리도 다르게 난다. 이 리버스 엔지니어링은 바로 이 소리를 듣고서 자동차의 구성 요소를 인식하는 것과 같다고 페이스북은 설명했다.
페이스북은 "이 기술을 통해 딥페이크 제작에 사용된 생성 모델을 더욱 잘 유추할 수 있게 됐다"라며 "일련의 딥페이크들 간 패턴의 유사성을 추적함으로써 딥페이크가 하나의 출처로부터 생성됐는지 여부도 알 수 있다"라고 전했다.
이어 "이번 기술을 통해 딥페이크 검출에 대한 이해도를 높였다"라며 "연구자들과 실무진들이 딥페이크 기반 부정행위 사건들을 더욱 면밀하게 조사할 수 있게 됐다"라고 덧붙였다. ciokr@idg.co.kr