Offcanvas

������������

‘해킹도 ML로 진화 중’ 머신러닝 해킹 수법 9가지

머신러닝 알고리즘은 보안 솔루션을 개선하여 애널리스트가 위협을 분류하고 취약점을 신속하게 해결할 수 있도록 지원한다. 하지만 동시에 해커들이 더 큰 규모의 복잡한 사이버 공격을 가하는 데 악용되고 있다.    머신러닝과 인공지능은 보안 위협을 검출하고 대응하는 핵심 기술이 되고 있다. 변화무쌍한 사이버 위협에 맞서 스스로 학습하고 적응할 수 있는 능력이 큰 강점이다.  한편 해커들이 머신러닝과 AI를 악용하여 사이버 공격을 확대하고, 보안 통제를 회피하며, 전례 없는 속도로 파괴적인 결과를 초래하는 새로운 취약성을 찾아내고 있다. 이 글에서는 해커가 이러한 기술을 악용하는 가장 일반적인 방법 9가지를 알아보고자 한다.  1. 스팸 필터를 속이는 스팸 메일  시장조사기관 옴디아(Omdia)의 애널리스트 페르난도 몬테네그로는 보안 관리자들이 수십 년 동안 스팸 메일을 걸러내는 데 머신러닝을 사용해 왔다고 말했다. “스팸 메일 차단이 머신러닝이 활용된 최초의 사례였다”라고 그는 설명했다. 하지만 머신러닝은 스팸 방지 필터를 속이는 데 악용될 수 있다. 스팸 필터가 특정 메일을 차단한 이유나 ‘스팸 지수’ 같은 정보를 생성한다면, 해커는 이를 사용하여 스팸 메일의 내용을 조정할 수 있다. “계속 이메일을 전송하면서 정보를 얻으면 스팸 필터 모델의 작동 기준을 재구성할 수 있다. 이를 통해 메일 내용을 미세하게 바꿔가면서 스팸 필터를 우회할 수 있게 된다”라고 그는 설명했다.   취약점은 스팸 필터에만 있지 않다. 몬테네그로는 점수나 기타 수치를 제공하는 보안업체가 잠재적으로 악용될 수 있다고 말했다. "모든 업체가 이러한 취약점을 안고 있는 것은 아니지만, 주의하지 않으면 누군가가 악용할 수 있는 정보를 의도치 않게 제공하게 될 수 있다"라고 그는 덧붙였다.  2. 더 정교해진 피싱 메일 공격자는 메시지가 스팸 필터를 통과할 수 있는지 테스트하기 위해 머신러닝 보안 도구를 사용하는 데 그치지 ...

머신러닝 사전대입공격 딥페이크 AI오염 AI퍼징

2022.06.14

머신러닝 알고리즘은 보안 솔루션을 개선하여 애널리스트가 위협을 분류하고 취약점을 신속하게 해결할 수 있도록 지원한다. 하지만 동시에 해커들이 더 큰 규모의 복잡한 사이버 공격을 가하는 데 악용되고 있다.    머신러닝과 인공지능은 보안 위협을 검출하고 대응하는 핵심 기술이 되고 있다. 변화무쌍한 사이버 위협에 맞서 스스로 학습하고 적응할 수 있는 능력이 큰 강점이다.  한편 해커들이 머신러닝과 AI를 악용하여 사이버 공격을 확대하고, 보안 통제를 회피하며, 전례 없는 속도로 파괴적인 결과를 초래하는 새로운 취약성을 찾아내고 있다. 이 글에서는 해커가 이러한 기술을 악용하는 가장 일반적인 방법 9가지를 알아보고자 한다.  1. 스팸 필터를 속이는 스팸 메일  시장조사기관 옴디아(Omdia)의 애널리스트 페르난도 몬테네그로는 보안 관리자들이 수십 년 동안 스팸 메일을 걸러내는 데 머신러닝을 사용해 왔다고 말했다. “스팸 메일 차단이 머신러닝이 활용된 최초의 사례였다”라고 그는 설명했다. 하지만 머신러닝은 스팸 방지 필터를 속이는 데 악용될 수 있다. 스팸 필터가 특정 메일을 차단한 이유나 ‘스팸 지수’ 같은 정보를 생성한다면, 해커는 이를 사용하여 스팸 메일의 내용을 조정할 수 있다. “계속 이메일을 전송하면서 정보를 얻으면 스팸 필터 모델의 작동 기준을 재구성할 수 있다. 이를 통해 메일 내용을 미세하게 바꿔가면서 스팸 필터를 우회할 수 있게 된다”라고 그는 설명했다.   취약점은 스팸 필터에만 있지 않다. 몬테네그로는 점수나 기타 수치를 제공하는 보안업체가 잠재적으로 악용될 수 있다고 말했다. "모든 업체가 이러한 취약점을 안고 있는 것은 아니지만, 주의하지 않으면 누군가가 악용할 수 있는 정보를 의도치 않게 제공하게 될 수 있다"라고 그는 덧붙였다.  2. 더 정교해진 피싱 메일 공격자는 메시지가 스팸 필터를 통과할 수 있는지 테스트하기 위해 머신러닝 보안 도구를 사용하는 데 그치지 ...

2022.06.14

숫자로 보는 2022년 사이버보안 동향 9가지

코로나19 팬데믹이 2년째에 접어들었다. 코로나19가 사람의 개인적 일상과 업무의 모든 측면에 영향을 미쳤다 해도 과언이 아니다. 엔터프라이즈 보안 측면에서도 팬데믹은 많은 것을 바꿔 놓았다.   수많은 근무자가 이제 집안의 Wi-Fi를 통해 기업 네트워크나 클라우드 기반 리소스에 액세스한다. IT 작업자는 원격 액세스를 통해 핵심 시스템의 문제를 해결한다. 공급망이 큰 압박에 휘청거리고, 사이버 공격자는 이런 잠재적 취약점을 지체하지 않고 악용한다.  불행한 일이지만, 2022년에도 사이버 공격의 범위와 수준은 더욱 높아질 것이 분명하다. 2022년 전망되는 사이버보안과 관련한 9가지 동향을 살펴보자.  2022년 사이버보안 동향 9가지 1. 강세 : 랜섬웨어 2. 강세 : 크립토마이닝/크립토재킹 3. 강세 : 딥페이크 4. 강세 : 비디오컨퍼런싱 공격 5. 약세 : VPN 6. 강세 : IoT 및 OT 공격 7. 강세 : 공급망 공격 8. 강세 : XDR 9. 약세 : 암호 강세 : 랜섬웨어는 사라지지 않는다 랜섬웨어 공격이 계속해서 증가하고 있으며 누그러질 기미도 보이지 않는다. 사이버보안 전문가 시라 루비노프는 “랜섬웨어 공격은 기하급수적으로 증가했고, 팬데믹으로 인해 온라인 활동과 디지털 환경이 늘어난 만큼 앞으로도 증가할 것이다. 재택근무 전환에 따라 기업은 사이버보안 태세를 서둘러 강화하고 있다. 이제 기업은 안전이 보장되지 않은 환경에서 여러 디바이스로 일과 개인적 활동을 병행하는 직원에 대처해야 한다”라고 말했다. 루비노프는 기업이 피싱 공격 방지에 도움이 되도록 전 직원을 대상으로 교육을 진행하는 등 사이버 위생을 구현하는 데 초점을 두어야 하며, 데이터 보호를 선제적으로 다루고 제로 트러스트 보안 모델 구현을 고려해야 한다고 조언했다. 주요 수치 : 가트너가 최근 발행한 ‘새로운 위험 모니터 보고서(Emerging Risks Monitor Report)’에 따르면, 기업 경영진이 가장 우려하는 것은 ‘...

랜섬웨어 크립토재킹 딥페이크 XDR

2022.01.14

코로나19 팬데믹이 2년째에 접어들었다. 코로나19가 사람의 개인적 일상과 업무의 모든 측면에 영향을 미쳤다 해도 과언이 아니다. 엔터프라이즈 보안 측면에서도 팬데믹은 많은 것을 바꿔 놓았다.   수많은 근무자가 이제 집안의 Wi-Fi를 통해 기업 네트워크나 클라우드 기반 리소스에 액세스한다. IT 작업자는 원격 액세스를 통해 핵심 시스템의 문제를 해결한다. 공급망이 큰 압박에 휘청거리고, 사이버 공격자는 이런 잠재적 취약점을 지체하지 않고 악용한다.  불행한 일이지만, 2022년에도 사이버 공격의 범위와 수준은 더욱 높아질 것이 분명하다. 2022년 전망되는 사이버보안과 관련한 9가지 동향을 살펴보자.  2022년 사이버보안 동향 9가지 1. 강세 : 랜섬웨어 2. 강세 : 크립토마이닝/크립토재킹 3. 강세 : 딥페이크 4. 강세 : 비디오컨퍼런싱 공격 5. 약세 : VPN 6. 강세 : IoT 및 OT 공격 7. 강세 : 공급망 공격 8. 강세 : XDR 9. 약세 : 암호 강세 : 랜섬웨어는 사라지지 않는다 랜섬웨어 공격이 계속해서 증가하고 있으며 누그러질 기미도 보이지 않는다. 사이버보안 전문가 시라 루비노프는 “랜섬웨어 공격은 기하급수적으로 증가했고, 팬데믹으로 인해 온라인 활동과 디지털 환경이 늘어난 만큼 앞으로도 증가할 것이다. 재택근무 전환에 따라 기업은 사이버보안 태세를 서둘러 강화하고 있다. 이제 기업은 안전이 보장되지 않은 환경에서 여러 디바이스로 일과 개인적 활동을 병행하는 직원에 대처해야 한다”라고 말했다. 루비노프는 기업이 피싱 공격 방지에 도움이 되도록 전 직원을 대상으로 교육을 진행하는 등 사이버 위생을 구현하는 데 초점을 두어야 하며, 데이터 보호를 선제적으로 다루고 제로 트러스트 보안 모델 구현을 고려해야 한다고 조언했다. 주요 수치 : 가트너가 최근 발행한 ‘새로운 위험 모니터 보고서(Emerging Risks Monitor Report)’에 따르면, 기업 경영진이 가장 우려하는 것은 ‘...

2022.01.14

어떻게 세상 바꿀까?··· 도전장 던진 'AI 스타트업' 5곳

소매업, 제조업, 농업 등 다양한 산업에서 ‘딥러닝(Deep Learning)’이 어려운 과제를 해결하고 있다. 여기에 앞장서고 있는 스타트업을 살펴본다.  딥러닝과 뉴럴 네트워크의 발전은 자연어 처리(NLP) 및 컴퓨터 비전에 엄청난 혁신을 가져왔다. 또한 이 기술에는 제조, 소매, 공급망, 농업 등 수많은 비즈니스 영역의 어려운 과제를 해결할 잠재력이 있다. 그리고 가장 중요한 혁신의 뒤에는 기술 스타트업이 자리하고 있기 마련이다. 여기에서는 ‘응용 AI(applied AI)’ 스타트업을 소개한다. 이 스타트업들은 완전 자율주행차를 향해 가는 것부터 농업 생산의 경계를 넓히는 것까지 다양한 산업 과제를 해결하기 위해 이미지, 텍스트, 오디오, 영상, 범주형 데이터, 표 형식 데이터 또는 이들의 조합을 처리하는 가지각색의 기술을 적용하고 있다.    1. 아르고 AI(Argo AI) 아직 멀었는가? 자율주행차가 약속한 미래가 실현되길 오랫동안 기다리고 있지만 자율주행 기술 분야의 준비 작업은 계속되고 있다. ‘아르고 AI’는 자율주행차에 필요한 모든 것을 갖춘 플랫폼을 목표로 하는 스타트업이다. 버스나 기차를 타지 않아도 출퇴근 길에 책을 읽을 수 있는 멋진 미래로 가는 데 필요한 모든 소프트웨어, 하드웨어, 지도, 원격 인프라를 다룬다.   포드(Ford), 폭스바겐(Volkswagen) 등과 협력해 연구 범위를 넓혀 나가는 가운데 아르고 AI는 최근 ‘아르고 라이다(Argo Lidar)’를 공개했다. 이는 최대 400m 떨어진 물체를 인식할 수 있는 새로운 라이다 시스템이다.  회사에 따르면 이는 야간 및 저조도 환경에서 잘 작동하며, 다른 라이다 시스템에서는 문제를 일으킬 수 있는 상황(예: 터널에서 나올 때 밝기가 급격히 달라지는 것 등)도 원활하게 처리할 수 있다.  아르고 AI는 터무니없는 전망을 내놓기 보다는 안전한 보조 운전(assisted-driving) 경험을 위한 모든 요소...

AI 인공지능 머신러닝 딥러닝 뉴럴 네트워크 신경망 자연어 처리 컴퓨터 비전 응용 AI 아르고 AI 라이다 센서 세레스 이미징 랜딩 AI 센티넬 딥페이크 스탠다드 아마존 고

2021.07.14

소매업, 제조업, 농업 등 다양한 산업에서 ‘딥러닝(Deep Learning)’이 어려운 과제를 해결하고 있다. 여기에 앞장서고 있는 스타트업을 살펴본다.  딥러닝과 뉴럴 네트워크의 발전은 자연어 처리(NLP) 및 컴퓨터 비전에 엄청난 혁신을 가져왔다. 또한 이 기술에는 제조, 소매, 공급망, 농업 등 수많은 비즈니스 영역의 어려운 과제를 해결할 잠재력이 있다. 그리고 가장 중요한 혁신의 뒤에는 기술 스타트업이 자리하고 있기 마련이다. 여기에서는 ‘응용 AI(applied AI)’ 스타트업을 소개한다. 이 스타트업들은 완전 자율주행차를 향해 가는 것부터 농업 생산의 경계를 넓히는 것까지 다양한 산업 과제를 해결하기 위해 이미지, 텍스트, 오디오, 영상, 범주형 데이터, 표 형식 데이터 또는 이들의 조합을 처리하는 가지각색의 기술을 적용하고 있다.    1. 아르고 AI(Argo AI) 아직 멀었는가? 자율주행차가 약속한 미래가 실현되길 오랫동안 기다리고 있지만 자율주행 기술 분야의 준비 작업은 계속되고 있다. ‘아르고 AI’는 자율주행차에 필요한 모든 것을 갖춘 플랫폼을 목표로 하는 스타트업이다. 버스나 기차를 타지 않아도 출퇴근 길에 책을 읽을 수 있는 멋진 미래로 가는 데 필요한 모든 소프트웨어, 하드웨어, 지도, 원격 인프라를 다룬다.   포드(Ford), 폭스바겐(Volkswagen) 등과 협력해 연구 범위를 넓혀 나가는 가운데 아르고 AI는 최근 ‘아르고 라이다(Argo Lidar)’를 공개했다. 이는 최대 400m 떨어진 물체를 인식할 수 있는 새로운 라이다 시스템이다.  회사에 따르면 이는 야간 및 저조도 환경에서 잘 작동하며, 다른 라이다 시스템에서는 문제를 일으킬 수 있는 상황(예: 터널에서 나올 때 밝기가 급격히 달라지는 것 등)도 원활하게 처리할 수 있다.  아르고 AI는 터무니없는 전망을 내놓기 보다는 안전한 보조 운전(assisted-driving) 경험을 위한 모든 요소...

2021.07.14

'딥페이크 이미지 출처 찾는다'··· 페이스북, 자체 리버스 엔지니어링 기술 발표

페이스북이 딥페이크에 사용된 AI의 출처를 찾아낼 수 있는 기술을 미 대학 연구진과 함께 개발했다고 16일(현지시간) 블로그를 통해 발표했다. 이 기술을 통해 딥페이크 기반 부정행위를 효과적으로 검출할 수 있다는 설명이다.  페이스북은 미시간 주립대 연구진과 공동 개발한 리버스 엔지니어링 기술을 통해 특정 딥페이크 제작에 사용된 AI 모델을 추적할 수 있다고 말했다.    페이스북에 따르면 딥페이크 생성 모델은 딥페이크 이미지에 고유의 지문(fingerprint)을 남긴다. 이 지문은 네트워크 레이어 개수, 블록 개수 등 생성 모델마다 아키텍처를 구성하는 고유한 특성(하이퍼 파라미터)이 있기 때문에 생겨난다.  이번 리버스 엔지니어링은 이 지문을 추적함으로써 해당 딥페이크를 생성한 모델을 식별하는 기술이다. 규모, 반복적 특성, 주파수 대역 등 지문의 일반적 특성을 두루 고려해 생성 모델의 정보를 예측한다.  이 기술은 마치 자동차별 소리를 바탕으로 구성요소를 파악하는 것과 같다는 설명이다. 자동차마다 기본적인 외양은 비슷해 보여도 내부의 엔진이나 구성품이 다르면 소리도 다르게 난다. 이 리버스 엔지니어링은 바로 이 소리를 듣고서 자동차의 구성 요소를 인식하는 것과 같다고 페이스북은 설명했다. 페이스북은 "이 기술을 통해 딥페이크 제작에 사용된 생성 모델을 더욱 잘 유추할 수 있게 됐다"라며 "일련의 딥페이크들 간 패턴의 유사성을 추적함으로써 딥페이크가 하나의 출처로부터 생성됐는지 여부도 알 수 있다"라고 전했다. 이어 "이번 기술을 통해 딥페이크 검출에 대한 이해도를 높였다"라며 "연구자들과 실무진들이 딥페이크 기반 부정행위 사건들을 더욱 면밀하게 조사할 수 있게 됐다"라고 덧붙였다. ciokr@idg.co.kr  

페이스북 인공지능 딥페이크

2021.06.18

페이스북이 딥페이크에 사용된 AI의 출처를 찾아낼 수 있는 기술을 미 대학 연구진과 함께 개발했다고 16일(현지시간) 블로그를 통해 발표했다. 이 기술을 통해 딥페이크 기반 부정행위를 효과적으로 검출할 수 있다는 설명이다.  페이스북은 미시간 주립대 연구진과 공동 개발한 리버스 엔지니어링 기술을 통해 특정 딥페이크 제작에 사용된 AI 모델을 추적할 수 있다고 말했다.    페이스북에 따르면 딥페이크 생성 모델은 딥페이크 이미지에 고유의 지문(fingerprint)을 남긴다. 이 지문은 네트워크 레이어 개수, 블록 개수 등 생성 모델마다 아키텍처를 구성하는 고유한 특성(하이퍼 파라미터)이 있기 때문에 생겨난다.  이번 리버스 엔지니어링은 이 지문을 추적함으로써 해당 딥페이크를 생성한 모델을 식별하는 기술이다. 규모, 반복적 특성, 주파수 대역 등 지문의 일반적 특성을 두루 고려해 생성 모델의 정보를 예측한다.  이 기술은 마치 자동차별 소리를 바탕으로 구성요소를 파악하는 것과 같다는 설명이다. 자동차마다 기본적인 외양은 비슷해 보여도 내부의 엔진이나 구성품이 다르면 소리도 다르게 난다. 이 리버스 엔지니어링은 바로 이 소리를 듣고서 자동차의 구성 요소를 인식하는 것과 같다고 페이스북은 설명했다. 페이스북은 "이 기술을 통해 딥페이크 제작에 사용된 생성 모델을 더욱 잘 유추할 수 있게 됐다"라며 "일련의 딥페이크들 간 패턴의 유사성을 추적함으로써 딥페이크가 하나의 출처로부터 생성됐는지 여부도 알 수 있다"라고 전했다. 이어 "이번 기술을 통해 딥페이크 검출에 대한 이해도를 높였다"라며 "연구자들과 실무진들이 딥페이크 기반 부정행위 사건들을 더욱 면밀하게 조사할 수 있게 됐다"라고 덧붙였다. ciokr@idg.co.kr  

2021.06.18

"한 단어만으로 이미지 내 서체 복사" 페이스북, 텍스트스타일브러쉬 공개

AI가 한 단어만 가지고도 이미지 속 타이포그래피나 캘리그래피 서체를 인식해 모방할 수 있다면?  페이스북이 단 한 개의 단어로 이미지 속 타이포그래피나 손글씨 서체를 인식해 다른 단어 및 문장에 바로 적용할 수 있는 AI 모델 '텍스트스타일브러쉬(TextStyleBrush)'를 6월 11일(현지 시각) 공개했다.    워드의 서식 복사 도구가 이미지에 적용된 셈이라고 할 수 있다. 이전에도 이러한 작업을 수행할 순 있었다. 다만 제한된 조건에서 가능했다. 페이스북의 기술은 과거의 조건에서는 적절하지 않은 각도나 배경에서도 다양한 텍스트 및 손글씨 서체를 인식해 활용할 수 있으며, 특히 해당 작업이 한 개의 단어로도 가능하다는 게 특징이라고 회사 측은 밝혔다.  또 이전의 접근방식이 인식 및 복사를 위해 서체와 같은 특정 기준을 사용했다면 페이스북은 단어 상자에서 텍스트를 분리해 전체적으로 학습하는 방식을 취한다. 그다음 새로운 소스 스타일 샘플에 관한 재교육 없이 분리한 서체를 적용할 수 있다고 페이스북은 설명했다.  회사에 따르면 이 기술은 현재는 연구 프로젝트이지만 다양한 활용 가능성을 가지고 있다. 예를 들면 딥페이크 텍스트를 감지하고 방지하는 시스템을 구축하는 데 사용될 수 있다. 이 밖에 이미지 속 틀린 텍스트를 올바른 단어로 바꾸거나, 손글씨를 촬영해 나만의 글꼴을 만들거나, AR을 기반으로 도로표지판을 번역하는 등에 활용될 수 있을 것이라고 회사는 전했다. ciokr@idg.co.kr  

페이스북 인공지능 딥페이크 증강현실

2021.06.15

AI가 한 단어만 가지고도 이미지 속 타이포그래피나 캘리그래피 서체를 인식해 모방할 수 있다면?  페이스북이 단 한 개의 단어로 이미지 속 타이포그래피나 손글씨 서체를 인식해 다른 단어 및 문장에 바로 적용할 수 있는 AI 모델 '텍스트스타일브러쉬(TextStyleBrush)'를 6월 11일(현지 시각) 공개했다.    워드의 서식 복사 도구가 이미지에 적용된 셈이라고 할 수 있다. 이전에도 이러한 작업을 수행할 순 있었다. 다만 제한된 조건에서 가능했다. 페이스북의 기술은 과거의 조건에서는 적절하지 않은 각도나 배경에서도 다양한 텍스트 및 손글씨 서체를 인식해 활용할 수 있으며, 특히 해당 작업이 한 개의 단어로도 가능하다는 게 특징이라고 회사 측은 밝혔다.  또 이전의 접근방식이 인식 및 복사를 위해 서체와 같은 특정 기준을 사용했다면 페이스북은 단어 상자에서 텍스트를 분리해 전체적으로 학습하는 방식을 취한다. 그다음 새로운 소스 스타일 샘플에 관한 재교육 없이 분리한 서체를 적용할 수 있다고 페이스북은 설명했다.  회사에 따르면 이 기술은 현재는 연구 프로젝트이지만 다양한 활용 가능성을 가지고 있다. 예를 들면 딥페이크 텍스트를 감지하고 방지하는 시스템을 구축하는 데 사용될 수 있다. 이 밖에 이미지 속 틀린 텍스트를 올바른 단어로 바꾸거나, 손글씨를 촬영해 나만의 글꼴을 만들거나, AR을 기반으로 도로표지판을 번역하는 등에 활용될 수 있을 것이라고 회사는 전했다. ciokr@idg.co.kr  

2021.06.15

'모르면 낚인다'··· 2021년 새로운 소셜 엔지니어링 공격 7가지

그야말로 소셜 엔지니어링(Social engineering)의 ‘전성기’다. 특히나 팬데믹으로 인한 공황, 경기침체에 따른 불안감, 건강 및 안전에 관한 우려 등은 공격자들로 하여금 이러한 두려움을 더 쉽게 악용하도록 하고 있다.  소셜 엔지니어링은 ‘컴퓨터 시스템’이 아닌 ‘사용자’를 공격해 탈취로 이어지는 행동을 유도하거나 정보를 빼내려 시도한다. 이는 거짓말만큼이나 오래됐다. 컴퓨팅 시대에 맞춰 ‘거짓말’에 새로운 이름이 붙은 것이라고 비유할 수 있다. 소셜 엔지니어링 공격이 변화하는 양상을 고려한다면 완벽한 비유다.    보안인식 교육업체 노우비포(knowBe4)의 최고 에반젤리스트 겸 전략 책임자 페리 카펜터는 “대게 새로운 패키지로 포장됐을 뿐 동일한 속임수다”라고 말했다. 보안 전문가들의 말처럼 ‘포장’이 문제의 핵심이다. 익숙한 공격이라도 익숙하지 않은 위장과 포장으로 방어망을 빠져나갈 수 있다. 여기서는 2021년에 부상하고 있는 소셜 엔지니어링 공격을 살펴본다.  1. 악성 QR코드 지난해 QR코드와 관련된 피싱 사기가 등장했다. 기계로 읽을 수 있는 사각형 모양의 흑백 매트릭스 코드인 ‘QR코드’는 코로나19 사태 동안 기업이 고객과 접촉하고 서비스를 전달하는 데 활용되면서 많은 인기를 끌었다.  예를 들면 많은 레스토랑이 종이에 인쇄한 메뉴를 버리고, 그 대신 고객이 스마트폰으로 QR코드를 스캔해 메뉴를 확인하도록 만들었다. 또 올해 초 걸스카우트에서는 비대면 방식의 쿠키 주문 및 배달에 활용할 수 있는 QR코드를 게시하기도 했다.  하지만 QR코드를 스캔했을 때 이동하는 많은 웹사이트를 서드파티 벤더가 운영한다는 점에서 QR코드는 위험하다. 악성 QR코드를 스캔하면 스마트폰을 악성 웹사이트에 연결시킬 수 있기 때문이다.  마치 악성 링크를 클릭하는 것과 마찬가지다. 내용물은 같지만 포장지가 바뀐 것이다. 카펜터는 “사람들이 QR코드와 웹사이트는 문제없다고 생각할...

소셜 엔지니어링 피싱 스캠 딥페이크 팬데믹 원격근무 재택근무 QR코드 악성코드 알림 하이재킹 타이포스쿼팅 유사 도메인 사기

2021.04.15

그야말로 소셜 엔지니어링(Social engineering)의 ‘전성기’다. 특히나 팬데믹으로 인한 공황, 경기침체에 따른 불안감, 건강 및 안전에 관한 우려 등은 공격자들로 하여금 이러한 두려움을 더 쉽게 악용하도록 하고 있다.  소셜 엔지니어링은 ‘컴퓨터 시스템’이 아닌 ‘사용자’를 공격해 탈취로 이어지는 행동을 유도하거나 정보를 빼내려 시도한다. 이는 거짓말만큼이나 오래됐다. 컴퓨팅 시대에 맞춰 ‘거짓말’에 새로운 이름이 붙은 것이라고 비유할 수 있다. 소셜 엔지니어링 공격이 변화하는 양상을 고려한다면 완벽한 비유다.    보안인식 교육업체 노우비포(knowBe4)의 최고 에반젤리스트 겸 전략 책임자 페리 카펜터는 “대게 새로운 패키지로 포장됐을 뿐 동일한 속임수다”라고 말했다. 보안 전문가들의 말처럼 ‘포장’이 문제의 핵심이다. 익숙한 공격이라도 익숙하지 않은 위장과 포장으로 방어망을 빠져나갈 수 있다. 여기서는 2021년에 부상하고 있는 소셜 엔지니어링 공격을 살펴본다.  1. 악성 QR코드 지난해 QR코드와 관련된 피싱 사기가 등장했다. 기계로 읽을 수 있는 사각형 모양의 흑백 매트릭스 코드인 ‘QR코드’는 코로나19 사태 동안 기업이 고객과 접촉하고 서비스를 전달하는 데 활용되면서 많은 인기를 끌었다.  예를 들면 많은 레스토랑이 종이에 인쇄한 메뉴를 버리고, 그 대신 고객이 스마트폰으로 QR코드를 스캔해 메뉴를 확인하도록 만들었다. 또 올해 초 걸스카우트에서는 비대면 방식의 쿠키 주문 및 배달에 활용할 수 있는 QR코드를 게시하기도 했다.  하지만 QR코드를 스캔했을 때 이동하는 많은 웹사이트를 서드파티 벤더가 운영한다는 점에서 QR코드는 위험하다. 악성 QR코드를 스캔하면 스마트폰을 악성 웹사이트에 연결시킬 수 있기 때문이다.  마치 악성 링크를 클릭하는 것과 마찬가지다. 내용물은 같지만 포장지가 바뀐 것이다. 카펜터는 “사람들이 QR코드와 웹사이트는 문제없다고 생각할...

2021.04.15

딥페이크 비디오가 위험한 이유, '그리고 작동 방법'

딥페이크(Deepfakes)는 진짜처럼 보이는 가짜 비디오 또는 오디오 기록이다. 한때는 할리우드 특수효과 스튜디오와 CIA 또는 GCHQ의 JTRIG 부서와 같은 프로파간다를 생산하는 정보 기관의 전유물이었지만 이제는 누구나 딥페이크 소프트웨어를 다운로드해서 남는 시간에 그럴듯한 가짜 비디오를 만들어낼 수 있다.     지금까지 딥페이크는 아마추어 취미가들이 연예인 얼굴을 포르노 배우의 몸과 합성하거나 정치인이 하는 말을 조작하는 용도 정도로 사용됐다. 그러나 공격이 임박했다는 비상 경보 딥페이크를 만들거나 가짜 섹스 비디오를 사용해 누군가의 결혼 생활을 파탄에 이르게 하거나 투표 며칠 전에 후보자의 가짜 비디오 또는 오디오를 퍼뜨려 선거에 개입하기도 쉬워졌다. 딥페이크는 얼마나 위험한가? 딥페이크는 많은 이에게 우려의 대상이다. 미 플로리다 주 공화당 상원의원이자 2016년 대통령 후보였던 마르코 루비오는 딥페이크를 현대의 핵무기라고 표현했다. 루비오는 2주 전 워싱턴의 한 연설에서 “예전에는 미국을 위협하려면 10척의 항공모함과 핵무기, 장거리 미사일이 필요했다. 지금은 인터넷 시스템, 뱅킹 시스템, 전력망 및 인프라에 접근하면 된다. 진짜 같은 가짜 비디오를 제작할 능력만 있으면 선거를 훼방하고 미국을 심각한 내부적 위기로 몰아넣고 깊은 타격을 입힐 수 있다”라고 말했다. 결실을 맺지 못한 야심가의 왜곡된 정치적 과장일까, 아니면 딥페이크가 정말 핵무기보다 더 큰 위협일까? 루비오의 말만 들으면 세상은 종말을 향해 다가가는 듯하다. 하지만 모두가 루비오의 의견에 동의하는 것은 아니다. 버크만-클라인 센터(Berkman-Klein Center)와 MIT 미디어 랩(MIT Media Lab)에서 AI 이니셔티브의 윤리 감독 책임자인 팀 황은 “핵폭탄만큼 위험하다? 나는 그렇게 생각하지 않는다. 그동안의 실제 사례는 확실히 불안감을 준다. 사람들은 우려를 하면서 많은 질문을 던지지만 많은 이가 예상하는 것처럼 상황이 바뀔 가능성은...

딥페이크 Deepfakes

2021.03.26

딥페이크(Deepfakes)는 진짜처럼 보이는 가짜 비디오 또는 오디오 기록이다. 한때는 할리우드 특수효과 스튜디오와 CIA 또는 GCHQ의 JTRIG 부서와 같은 프로파간다를 생산하는 정보 기관의 전유물이었지만 이제는 누구나 딥페이크 소프트웨어를 다운로드해서 남는 시간에 그럴듯한 가짜 비디오를 만들어낼 수 있다.     지금까지 딥페이크는 아마추어 취미가들이 연예인 얼굴을 포르노 배우의 몸과 합성하거나 정치인이 하는 말을 조작하는 용도 정도로 사용됐다. 그러나 공격이 임박했다는 비상 경보 딥페이크를 만들거나 가짜 섹스 비디오를 사용해 누군가의 결혼 생활을 파탄에 이르게 하거나 투표 며칠 전에 후보자의 가짜 비디오 또는 오디오를 퍼뜨려 선거에 개입하기도 쉬워졌다. 딥페이크는 얼마나 위험한가? 딥페이크는 많은 이에게 우려의 대상이다. 미 플로리다 주 공화당 상원의원이자 2016년 대통령 후보였던 마르코 루비오는 딥페이크를 현대의 핵무기라고 표현했다. 루비오는 2주 전 워싱턴의 한 연설에서 “예전에는 미국을 위협하려면 10척의 항공모함과 핵무기, 장거리 미사일이 필요했다. 지금은 인터넷 시스템, 뱅킹 시스템, 전력망 및 인프라에 접근하면 된다. 진짜 같은 가짜 비디오를 제작할 능력만 있으면 선거를 훼방하고 미국을 심각한 내부적 위기로 몰아넣고 깊은 타격을 입힐 수 있다”라고 말했다. 결실을 맺지 못한 야심가의 왜곡된 정치적 과장일까, 아니면 딥페이크가 정말 핵무기보다 더 큰 위협일까? 루비오의 말만 들으면 세상은 종말을 향해 다가가는 듯하다. 하지만 모두가 루비오의 의견에 동의하는 것은 아니다. 버크만-클라인 센터(Berkman-Klein Center)와 MIT 미디어 랩(MIT Media Lab)에서 AI 이니셔티브의 윤리 감독 책임자인 팀 황은 “핵폭탄만큼 위험하다? 나는 그렇게 생각하지 않는다. 그동안의 실제 사례는 확실히 불안감을 준다. 사람들은 우려를 하면서 많은 질문을 던지지만 많은 이가 예상하는 것처럼 상황이 바뀔 가능성은...

2021.03.26

칼럼ㅣ가짜뉴스 온상 '소셜 미디어'가 '정보 안전지대'로 부상한다?

오늘날 트위터, 인스타그램, 페이스북 등의 소셜 미디어는 가짜 뉴스와 허위 정보의 온상이 됐다. 하지만 동시에 소셜 미디어는 이러한 문제를 해결할 방법이기도 하다.  최근 트위터와 페이스북 CEO는 美 국회에 소환됐고 고성과 호통이 오가는 가운데 취조를 받았다. 이는 ‘테크래시(Techlash; 거대 기술 기업에 대한 거센 반감)’라고 불리며, 미국 정치권에서 하나의 관행처럼 자리 잡고 있다.    美 상원 사법위원회 위원들은 정치적 편향, 혐오 발언 그리고 무엇보다도 국가 조직, 국내 음모론자, 선동가들이 소셜 미디어 알고리즘을 간단히 악용해 가짜 이력과 인물로 구성된 가짜 뉴스를 퍼뜨리는 허위 정보를 우려한다. 지금으로부터 1년 전, 美 대선에서 정치적 스캔들을 조작하기 위해 딥페이크(Deepfake) 영상이 사용되리라 우려하는 목소리가 높았다. 물론 그런 일은 일어나지 않았다. 아직은 육안으로 딥페이크 영상을 식별할 수 있어서다.  이와 반면에 딥페이크 사진은 실제와 허위를 구분할 수 없을 정도로 정교해졌다. 그리고 이번 대통령 선거에서 딥페이크 사진을 악용한 사건이 실제로 발생했다.  선거 몇 달 전, 타이푼 인베스티게이션(Typhoon Investigations)과 스위스 보안 애널리스트 마틴 아스펜이 조 바이든 대통령 당선인의 아들 헌터 바이든에 관한 불법행위 의혹을 제기하며 관련 문건을 공개했는데, 이것이 가짜로 드러난 것이다.  그 정보는 가짜였다. 회사와 애널리스트도 허구였다. 심지어 애널리스트의 프로필 사진조차 딥페이크 기술로 만들어진 가짜였다. 이는 많은 사람이 딥페이크 영상으로 일어나리라 우려했던, 일종의 AI를 악용한 정치적 테러였다. 그러나 이 가짜 문건은 대부분 텍스트로 이뤄져 있었고, 한 장의 딥페이크 사진을 통해 합법적이고 정당한 것으로 위장하려 했다. 물론 아이러니하게도, 기자들이 전체 문건을 철저히 조사하게 됐던 이유 역시 이 사진이기도 하지만 말이다.&nbs...

소셜 미디어 소셜 네트워크 트위터 페이스북 인스타그램 가짜뉴스 허위 정보 딥페이크 마이크로소프트 유튜브 텔레그램 테크래시

2020.12.08

오늘날 트위터, 인스타그램, 페이스북 등의 소셜 미디어는 가짜 뉴스와 허위 정보의 온상이 됐다. 하지만 동시에 소셜 미디어는 이러한 문제를 해결할 방법이기도 하다.  최근 트위터와 페이스북 CEO는 美 국회에 소환됐고 고성과 호통이 오가는 가운데 취조를 받았다. 이는 ‘테크래시(Techlash; 거대 기술 기업에 대한 거센 반감)’라고 불리며, 미국 정치권에서 하나의 관행처럼 자리 잡고 있다.    美 상원 사법위원회 위원들은 정치적 편향, 혐오 발언 그리고 무엇보다도 국가 조직, 국내 음모론자, 선동가들이 소셜 미디어 알고리즘을 간단히 악용해 가짜 이력과 인물로 구성된 가짜 뉴스를 퍼뜨리는 허위 정보를 우려한다. 지금으로부터 1년 전, 美 대선에서 정치적 스캔들을 조작하기 위해 딥페이크(Deepfake) 영상이 사용되리라 우려하는 목소리가 높았다. 물론 그런 일은 일어나지 않았다. 아직은 육안으로 딥페이크 영상을 식별할 수 있어서다.  이와 반면에 딥페이크 사진은 실제와 허위를 구분할 수 없을 정도로 정교해졌다. 그리고 이번 대통령 선거에서 딥페이크 사진을 악용한 사건이 실제로 발생했다.  선거 몇 달 전, 타이푼 인베스티게이션(Typhoon Investigations)과 스위스 보안 애널리스트 마틴 아스펜이 조 바이든 대통령 당선인의 아들 헌터 바이든에 관한 불법행위 의혹을 제기하며 관련 문건을 공개했는데, 이것이 가짜로 드러난 것이다.  그 정보는 가짜였다. 회사와 애널리스트도 허구였다. 심지어 애널리스트의 프로필 사진조차 딥페이크 기술로 만들어진 가짜였다. 이는 많은 사람이 딥페이크 영상으로 일어나리라 우려했던, 일종의 AI를 악용한 정치적 테러였다. 그러나 이 가짜 문건은 대부분 텍스트로 이뤄져 있었고, 한 장의 딥페이크 사진을 통해 합법적이고 정당한 것으로 위장하려 했다. 물론 아이러니하게도, 기자들이 전체 문건을 철저히 조사하게 됐던 이유 역시 이 사진이기도 하지만 말이다.&nbs...

2020.12.08

블로그ㅣ어도비, ‘모바일 경험’과 ‘원격 협업’을 향해 나아가다

어도비가 20일(현지 시각)부터 22일까지 온라인으로 개최되는 크리에이티브 컨퍼런스 ‘어도비 맥스 2020(Adobe Max 2020)’에서 다양한 기능을 공개했다. 포토샵의 AI 기능이 강화됐고, 아이패드용 일러스트레이터와 아이폰용 프레스코가 공개됐으며, 딥페이크와의 전쟁이 시작됐다.    ‘일러스트레이터’가 ‘아이패드’에 등장하다  iOS 사용자라면 반길 만한 소식이 있다. 바로 아이패드용 일러스트레이터(Illustrator for iPad)다. 애플 펜슬(Apple Pencil) 지원도 포함된다.  어도비는 “아이패드로 직관적이고 단순하게 디자인할 수 있도록 하는 동시에 사용자가 기대하는 모든 컨트롤을 정밀하게 만드는 것에 초점을 맞췄다”라고 말했다.  회사에 따르면 아이패드용 일러스트레이터 인터페이스는 사용자가 하고 있는 작업에 중점을 두도록 설계됐다. 또 반경(radius), 그리드(grid), 미러(mirror) 기능을 포함해 데스크톱 일러스트레이터와 거의 동일한 도구와 동작 방식을 지원한다.  물론 데스크톱 애플리케이션과 비교하면 누락된 요소가 일부 있긴 하다. 하지만 어도비가 발표한 아이패드용 일러스트레이터 개발 로드맵을 살펴보면 다른 크리에이티브 제품군과 마찬가지로 누락된 요소들은 머지않아 도입될 것으로 예상된다.    아이폰용 어도비 프레스코 아이폰 사용자가 처음으로 어도비 프레스코를 사용할 수 있게 됐다. 프레스코 2.0은 또한 아이패드와 PC도 지원한다. 이 드로잉 및 페인팅 앱은 어도비의 AI 센세이(Sensei)를 기반으로 하는 다양한 수채화 및 오일 브러시(3D 변형, 음성 텍스트 변환(STT), 로토 브러시 등 포함)를 제공한다. 여기에 텍스트 지원도 추가됐다. 또한 개선된 브러시 감도 제어를 비롯해 스머지 브러시 및 여러 개선사항도 포함됐다.  ‘딥페이크’와의 전쟁 로고나 패키징 디자인 등의 지적재산권을 보호하려는 기업이라면 ‘어도비 맥스...

어도비 포토샵 일러스트레이터 어도비 맥스 센세이 AI 인공지능 머신러닝 딥페이크 아이패드 아이폰 애플 펜슬 원격 협업 공동 작업 원격 교육

2020.10.21

어도비가 20일(현지 시각)부터 22일까지 온라인으로 개최되는 크리에이티브 컨퍼런스 ‘어도비 맥스 2020(Adobe Max 2020)’에서 다양한 기능을 공개했다. 포토샵의 AI 기능이 강화됐고, 아이패드용 일러스트레이터와 아이폰용 프레스코가 공개됐으며, 딥페이크와의 전쟁이 시작됐다.    ‘일러스트레이터’가 ‘아이패드’에 등장하다  iOS 사용자라면 반길 만한 소식이 있다. 바로 아이패드용 일러스트레이터(Illustrator for iPad)다. 애플 펜슬(Apple Pencil) 지원도 포함된다.  어도비는 “아이패드로 직관적이고 단순하게 디자인할 수 있도록 하는 동시에 사용자가 기대하는 모든 컨트롤을 정밀하게 만드는 것에 초점을 맞췄다”라고 말했다.  회사에 따르면 아이패드용 일러스트레이터 인터페이스는 사용자가 하고 있는 작업에 중점을 두도록 설계됐다. 또 반경(radius), 그리드(grid), 미러(mirror) 기능을 포함해 데스크톱 일러스트레이터와 거의 동일한 도구와 동작 방식을 지원한다.  물론 데스크톱 애플리케이션과 비교하면 누락된 요소가 일부 있긴 하다. 하지만 어도비가 발표한 아이패드용 일러스트레이터 개발 로드맵을 살펴보면 다른 크리에이티브 제품군과 마찬가지로 누락된 요소들은 머지않아 도입될 것으로 예상된다.    아이폰용 어도비 프레스코 아이폰 사용자가 처음으로 어도비 프레스코를 사용할 수 있게 됐다. 프레스코 2.0은 또한 아이패드와 PC도 지원한다. 이 드로잉 및 페인팅 앱은 어도비의 AI 센세이(Sensei)를 기반으로 하는 다양한 수채화 및 오일 브러시(3D 변형, 음성 텍스트 변환(STT), 로토 브러시 등 포함)를 제공한다. 여기에 텍스트 지원도 추가됐다. 또한 개선된 브러시 감도 제어를 비롯해 스머지 브러시 및 여러 개선사항도 포함됐다.  ‘딥페이크’와의 전쟁 로고나 패키징 디자인 등의 지적재산권을 보호하려는 기업이라면 ‘어도비 맥스...

2020.10.21

사람을 속이는 딥페이크, 어느 수준까지 와있을까?

딥페이크란 누군가가 실제로 말하거나 하지 않은 행동을 마치 말하고 행동한 것처럼 보이도록 하기 위해 딥러닝을 기반으로 영상이나 음성을 제작, 조작, 합성하는 것을 의미한다.  과거 미 커뮤니티 레딧의 /u/deepfake 라는 카테고리에, 포르노 배우의 몸에 다른 여배우의 얼굴을 합성한 영상이 올라온 적이 있다. 최초의 딥페이크 사례로 알려진 이 영상은 당시 비윤리적이긴 했지만 불법은 아니었다. 이후로 유명인이 말했던 내용이나 언어를 바꾼 딥페이크도 등장했다.    딥페이크는 수십 년에 걸쳐 축적된 '영상(혹은 영화) 합성'의 개념의 연장선상에 있다. 영상 합성에는 상당한 수준의 기술과 시간, 장비가 요구된다. 반면 딥페이크는 (GPU가 있으면) 대단한 기술이나 시간, 장비가 없어도 만들 수 있다. 눈썰미 있는 시청자라면 금방 눈치채긴 하더라도 말이다.  딥페이크를 만드는 방법 원래 딥페이크 제작에는 비지도 뉴럴 네트워크의 일종인 오토인코더(autoencoders)가 사용됐다. 물론 지금도 널리 사용되고 있기는 하다. 그러다가 몇몇 사람들이 GANs(아래에서 설명)를 이용하도록 영상 제작 기법을 발전시켰다. 여타 다른 머신러닝 기법 또한 사용되었으며, 몇몇 영상에는 머신러닝과 상관없는 기법이 활용되기도 했다. 이로 인해 다양한 딥페이크가 만들어졌다. 오토인코더 기본적으로 오토인코더(Autoencoder)는 이미지 속 얼굴을 딥페이크로 바꾸기 위해 두 단계를 거친다. 첫 번째 단계에서는 뉴럴 네트워크를 이용해 소스 이미지로부터 얼굴을 추출한 뒤, 이를 몇 가지 특징들과 마스크 모양으로 인코딩한다. 이때 몇몇 2D 콘볼루션 레이어와 몇 개의 덴스 레이어, 소프트맥스 레이어를 이용한다. 두 번째 단계에서는 또 다른 뉴럴 네트워크를 이용해 특징들을 디코딩하고, 생성된 얼굴을 업스케일하고, 필요에 따라 회전이나 크기 조정을 한 뒤, 업스케일된 얼굴을 다른 이미지에 적용한다. 오토인코더를 학습시켜 ...

딥페이크 딥러닝 인공지능

2020.09.17

딥페이크란 누군가가 실제로 말하거나 하지 않은 행동을 마치 말하고 행동한 것처럼 보이도록 하기 위해 딥러닝을 기반으로 영상이나 음성을 제작, 조작, 합성하는 것을 의미한다.  과거 미 커뮤니티 레딧의 /u/deepfake 라는 카테고리에, 포르노 배우의 몸에 다른 여배우의 얼굴을 합성한 영상이 올라온 적이 있다. 최초의 딥페이크 사례로 알려진 이 영상은 당시 비윤리적이긴 했지만 불법은 아니었다. 이후로 유명인이 말했던 내용이나 언어를 바꾼 딥페이크도 등장했다.    딥페이크는 수십 년에 걸쳐 축적된 '영상(혹은 영화) 합성'의 개념의 연장선상에 있다. 영상 합성에는 상당한 수준의 기술과 시간, 장비가 요구된다. 반면 딥페이크는 (GPU가 있으면) 대단한 기술이나 시간, 장비가 없어도 만들 수 있다. 눈썰미 있는 시청자라면 금방 눈치채긴 하더라도 말이다.  딥페이크를 만드는 방법 원래 딥페이크 제작에는 비지도 뉴럴 네트워크의 일종인 오토인코더(autoencoders)가 사용됐다. 물론 지금도 널리 사용되고 있기는 하다. 그러다가 몇몇 사람들이 GANs(아래에서 설명)를 이용하도록 영상 제작 기법을 발전시켰다. 여타 다른 머신러닝 기법 또한 사용되었으며, 몇몇 영상에는 머신러닝과 상관없는 기법이 활용되기도 했다. 이로 인해 다양한 딥페이크가 만들어졌다. 오토인코더 기본적으로 오토인코더(Autoencoder)는 이미지 속 얼굴을 딥페이크로 바꾸기 위해 두 단계를 거친다. 첫 번째 단계에서는 뉴럴 네트워크를 이용해 소스 이미지로부터 얼굴을 추출한 뒤, 이를 몇 가지 특징들과 마스크 모양으로 인코딩한다. 이때 몇몇 2D 콘볼루션 레이어와 몇 개의 덴스 레이어, 소프트맥스 레이어를 이용한다. 두 번째 단계에서는 또 다른 뉴럴 네트워크를 이용해 특징들을 디코딩하고, 생성된 얼굴을 업스케일하고, 필요에 따라 회전이나 크기 조정을 한 뒤, 업스케일된 얼굴을 다른 이미지에 적용한다. 오토인코더를 학습시켜 ...

2020.09.17

칼럼 | 디지털 기술과 범죄의 발전

“추적 불가능한 불법적인 금융거래 수단을 기반으로 이제 범죄는 더 이상 직접 저질러야만 하는 것이 아니라 돈을 주고 살 수 있는 것이 되었다. 이것이 CaaS(Crime as a Service)라는 새로운 비즈니스 모델이 되었다.”  - 마크 굿맨의 ‘Future Crimes: Everything Is Connected, Everyone Is Vulnerable and What We Can Do About It” 중에서. 텔레그램 메신저를 플랫폼으로 하고 암호화폐를 지불수단으로 한 최악의 집단 성착취 범죄로 대한민국의 국민이 분노하고 있다. 더구나 피해자 중에는 미성년자도 상당수 포함되어 있어 사법 당국은 전례 없는 강한 처벌을 언급하고 있다. 디지털 기술의 발전으로 경제, 문화, 사회의 긍정적인 발전 전망을 이야기하고 있는 오늘날, 인류 사회의 어두운 측면인 범죄 역시 디지털 기술의 발전에 따라 진화하고 있다. 오늘날 5G의 속도를 광고하는 문구가 ‘영화 다운로드, 16초에서 0.8초로’이다. 하루가 다르게 발전하는 네트워크의 속도와 포화상태에 이른 모바일 기기 보급, 그리고 4K급 화질을 능가하는 스마트폰의 카메라 등 하드웨어의 발전과 전세계를 연결하는 소셜 플랫폼의 확산, 블록체인 기술에 기반한 암호화폐의 등장 등 IT 기술의 발전으로 많은 이들이 미래 사회의 긍정적인 변화를 전망하지만 기술의 발전으로 인해 사회의 어두운 면 역시 함께 변화하는 것은 피할 수 없다. 인터넷의 등장과 전화선 모뎀에 의존하던 느린 통신망에서 ADSL이라는 디지털 기반의 혁신적인 통신 방식이 개발되어 대한민국의 IT 기술이 급속한 발전을 하던 시기인 1998년에 한 연예인이 오래전에 찍었던 사적인 비디오 영상이 디지털로 변환되어 인터넷망을 통해 불법적으로 확산된 사건이 있었다. 이전까지 소위 불법 비디오테이브 복제를 통해 은밀하게 손에서 손으로 전해지던 그런 영상이 디지털로 전환되고 전국적인 네트워크를 통해 순식간에 확산된 것이다. 당시에는 이를 통해 누군가가 범...

CIO 마크 굿맨 개인정보 탈취 Crime as a Service 디지털포렌식 딥페이크 CaaS 텔레그램 암호화폐 다크웹 정철환 메신저 5G 인공지능 피싱 사이버범죄 성착취

2020.04.01

“추적 불가능한 불법적인 금융거래 수단을 기반으로 이제 범죄는 더 이상 직접 저질러야만 하는 것이 아니라 돈을 주고 살 수 있는 것이 되었다. 이것이 CaaS(Crime as a Service)라는 새로운 비즈니스 모델이 되었다.”  - 마크 굿맨의 ‘Future Crimes: Everything Is Connected, Everyone Is Vulnerable and What We Can Do About It” 중에서. 텔레그램 메신저를 플랫폼으로 하고 암호화폐를 지불수단으로 한 최악의 집단 성착취 범죄로 대한민국의 국민이 분노하고 있다. 더구나 피해자 중에는 미성년자도 상당수 포함되어 있어 사법 당국은 전례 없는 강한 처벌을 언급하고 있다. 디지털 기술의 발전으로 경제, 문화, 사회의 긍정적인 발전 전망을 이야기하고 있는 오늘날, 인류 사회의 어두운 측면인 범죄 역시 디지털 기술의 발전에 따라 진화하고 있다. 오늘날 5G의 속도를 광고하는 문구가 ‘영화 다운로드, 16초에서 0.8초로’이다. 하루가 다르게 발전하는 네트워크의 속도와 포화상태에 이른 모바일 기기 보급, 그리고 4K급 화질을 능가하는 스마트폰의 카메라 등 하드웨어의 발전과 전세계를 연결하는 소셜 플랫폼의 확산, 블록체인 기술에 기반한 암호화폐의 등장 등 IT 기술의 발전으로 많은 이들이 미래 사회의 긍정적인 변화를 전망하지만 기술의 발전으로 인해 사회의 어두운 면 역시 함께 변화하는 것은 피할 수 없다. 인터넷의 등장과 전화선 모뎀에 의존하던 느린 통신망에서 ADSL이라는 디지털 기반의 혁신적인 통신 방식이 개발되어 대한민국의 IT 기술이 급속한 발전을 하던 시기인 1998년에 한 연예인이 오래전에 찍었던 사적인 비디오 영상이 디지털로 변환되어 인터넷망을 통해 불법적으로 확산된 사건이 있었다. 이전까지 소위 불법 비디오테이브 복제를 통해 은밀하게 손에서 손으로 전해지던 그런 영상이 디지털로 전환되고 전국적인 네트워크를 통해 순식간에 확산된 것이다. 당시에는 이를 통해 누군가가 범...

2020.04.01

칼럼ㅣ'가짜로 가득 찬 세상'을 구원할 존재도 결국 AI다

딥페이크 기술로 만든 영상부터 인공지능이 생성한 텍스트, 가짜 사이트와 인플루언서, 뉴스까지 ‘가짜’가 곳곳에서 판을 치고 있다. 현실이 '진짜'로 가득할 수 있을까?  어린 시절 종이 접시, 알루미늄 포일, 구슬로 UFO를 만들었던 적이 있다. 그리고 지붕에 UFO를 매달고 사진을 찍었다. 이 사진은 우주에 인간만 있는 것이 아니라는, 반박의 여지가 없는 증거로 활용됐다. 가짜가 없었던 적은 없다. 그러나 모든 것이 디지털화되면서 가짜를 만들고 전파하기가 더 쉬워지고, 더 빨라졌으며, 더 광범위해졌다. 그리고 AI는 이를 완전히 새로운 차원으로 바꿔 놓을 것이다. 그간 조작하기 어려웠던 영상이나 음성 등을 포함해 누구나 완벽한 가짜를 만들 수 있는 시대가 오고 있다.  가짜로 가득 찬 세상에서 우리는 어떻게 해야 할까?   가짜 뉴스(혹은 가짜에 대한 뉴스들) AI가 만들어낸 합성 영상이 정치 활동에서 허위 정보를 퍼뜨리거나 악의적인 목적으로 사용될 수 있다는 우려가 계속해서 제기돼 왔다. 그런데 최근 딥페이크가 정치 활동에서 실제로 사용됐다.  인도 인민당(Bharatiya Janata Party) 대표인 마노즈 티와리가 여러 언어로 연설하기 위해 딥페이크 영상을 사용한 것이다. 해당 사례에서 딥페이크는 경쟁자의 발언을 조작하는 데 쓰이진 않았다. 이는 딥페이크가 정치 활동에 공식적으로 사용된 첫 사례였다. 또한 원저자의 허가를 받아 AI로 가짜를 만든 사례가 있다. AI가 유명 래퍼 트래비스 스콧(Travis Scott)의 멜로디와 가사를 학습해 그의 스타일로 새로운 음원을 작사·작곡한 것이다. 미국 로스앤젤레스의 에이전시 스페이스 150이 추진한 프로젝트였다. 이 밖에 AI로 노래 가사를 생성해볼 수 있는 웹사이트도 있다.  작가처럼 글을 쓸 수 있는 AI도 있다. GPT-2가 바로 그것이다. 비영리 인공지능 연구기관 오픈AI가 공개한 GPT-2는 어떤 글 스타일이든 맥락을 고려한 문장들을 스스...

구글 딥페이크 가짜뉴스 블록체인 딥러닝 인공지능 AI 소셜 미디어 페이스북 생성적 적대 신경망

2020.02.26

딥페이크 기술로 만든 영상부터 인공지능이 생성한 텍스트, 가짜 사이트와 인플루언서, 뉴스까지 ‘가짜’가 곳곳에서 판을 치고 있다. 현실이 '진짜'로 가득할 수 있을까?  어린 시절 종이 접시, 알루미늄 포일, 구슬로 UFO를 만들었던 적이 있다. 그리고 지붕에 UFO를 매달고 사진을 찍었다. 이 사진은 우주에 인간만 있는 것이 아니라는, 반박의 여지가 없는 증거로 활용됐다. 가짜가 없었던 적은 없다. 그러나 모든 것이 디지털화되면서 가짜를 만들고 전파하기가 더 쉬워지고, 더 빨라졌으며, 더 광범위해졌다. 그리고 AI는 이를 완전히 새로운 차원으로 바꿔 놓을 것이다. 그간 조작하기 어려웠던 영상이나 음성 등을 포함해 누구나 완벽한 가짜를 만들 수 있는 시대가 오고 있다.  가짜로 가득 찬 세상에서 우리는 어떻게 해야 할까?   가짜 뉴스(혹은 가짜에 대한 뉴스들) AI가 만들어낸 합성 영상이 정치 활동에서 허위 정보를 퍼뜨리거나 악의적인 목적으로 사용될 수 있다는 우려가 계속해서 제기돼 왔다. 그런데 최근 딥페이크가 정치 활동에서 실제로 사용됐다.  인도 인민당(Bharatiya Janata Party) 대표인 마노즈 티와리가 여러 언어로 연설하기 위해 딥페이크 영상을 사용한 것이다. 해당 사례에서 딥페이크는 경쟁자의 발언을 조작하는 데 쓰이진 않았다. 이는 딥페이크가 정치 활동에 공식적으로 사용된 첫 사례였다. 또한 원저자의 허가를 받아 AI로 가짜를 만든 사례가 있다. AI가 유명 래퍼 트래비스 스콧(Travis Scott)의 멜로디와 가사를 학습해 그의 스타일로 새로운 음원을 작사·작곡한 것이다. 미국 로스앤젤레스의 에이전시 스페이스 150이 추진한 프로젝트였다. 이 밖에 AI로 노래 가사를 생성해볼 수 있는 웹사이트도 있다.  작가처럼 글을 쓸 수 있는 AI도 있다. GPT-2가 바로 그것이다. 비영리 인공지능 연구기관 오픈AI가 공개한 GPT-2는 어떤 글 스타일이든 맥락을 고려한 문장들을 스스...

2020.02.26

갈등부터 이해관계자 자본주의까지··· 2020 다보스포럼 미리보기

올해로 50주년을 맞는 다보스 포럼이 개막했다. ‘결속력 있고 지속가능한 세계를 위한 이해관계자('Stakeholders for a cohesive and sustainable world)’가 이번 세계경제포럼(WEF)의 핵심 의제다.  스위스 다보스에서 21일부터 24일 간 열리는 세계 경제 포럼은 올해 전 세계가 분열과 혼란 상태라는 사실에 초점을 맞출 예정이다. 패널 토론들도 근본적인 갈등을 해결하는 협력 방안에 대해 논의할 것이 유력하다.   IMF 상무이사 크리스티나 게오르기에바는 20일 WEF에서 IMF 세계경제전망을 발표하면서 이러한 위험에 대해 기탄없이 이야기했다.  게오르기에바는 만연한 불평등, 기술의 급속한 확산, 금융 분야의 엄청난 위험과 보상 등의 측면에서 2020년대와 1920년대를 비교하며 이 상황들이 20세기 세계대전의 발단이 된 조건들을 암시한다고 지적했다. 그는 이러한 위험을 멈추기 위해 각국이 힘을 합쳐야 한다고 촉구했다. 또한 그는 2019년 세계 경제를 다소 안정시키는 데 도움이 됐던 중앙은행들의 금리 인하 단행을 언급하면서 전 세계 중앙은행이 불황을 피할 수 있도록 '유효한' 정책을 계속 추진하라고 권고했다.  IMF 수석 경제전문가 기타 고피나트는 미-중 1단계 무역 협상이 마무리되고, 노딜 브렉시트의 가능성이 줄어들면서 글로벌 성장세가 안정화될 수도 있다는 잠정적인 신호가 있다고 덧붙였다. 이어서 그는 제조업과 무역 분야가 바닥을 치고 다시 상승세를 타는 양상이며, 자동차 업종은 배기가스 배출기준 문제를 해결하기 시작하면서 회복의 조짐을 보인다고 말했다. 하지만 미-중 갈등이 다시 고조될 수 있으며, 미국과 유럽연합(EU) 간에도 무역전쟁이 생길 수 있다고 고피나트는 경고했다. 더불어 중동 지역의 지정학적 긴장이 커지면서 전 세계적으로 사회 불안이 심화되고 있다고 말했다.  이번 다보스 포럼의 의제는 분쟁 해결, 지리적·경제적 충돌, 기술전쟁에 초점을 맞췄다. ...

세일즈포스 다보스포럼 4차산업혁명 데이터플로우 퀀텀컴퓨팅 딥페이크 미중무역분쟁 기술냉전 디지털세 세계경제전망 브렉시트 중동 시진핑 IMF 마크 베니오프 지속가능성 5G 빌게이츠 유럽연합 순다 피차이 사티아 나델라 도널드 트럼프 이방카트럼프

2020.01.21

올해로 50주년을 맞는 다보스 포럼이 개막했다. ‘결속력 있고 지속가능한 세계를 위한 이해관계자('Stakeholders for a cohesive and sustainable world)’가 이번 세계경제포럼(WEF)의 핵심 의제다.  스위스 다보스에서 21일부터 24일 간 열리는 세계 경제 포럼은 올해 전 세계가 분열과 혼란 상태라는 사실에 초점을 맞출 예정이다. 패널 토론들도 근본적인 갈등을 해결하는 협력 방안에 대해 논의할 것이 유력하다.   IMF 상무이사 크리스티나 게오르기에바는 20일 WEF에서 IMF 세계경제전망을 발표하면서 이러한 위험에 대해 기탄없이 이야기했다.  게오르기에바는 만연한 불평등, 기술의 급속한 확산, 금융 분야의 엄청난 위험과 보상 등의 측면에서 2020년대와 1920년대를 비교하며 이 상황들이 20세기 세계대전의 발단이 된 조건들을 암시한다고 지적했다. 그는 이러한 위험을 멈추기 위해 각국이 힘을 합쳐야 한다고 촉구했다. 또한 그는 2019년 세계 경제를 다소 안정시키는 데 도움이 됐던 중앙은행들의 금리 인하 단행을 언급하면서 전 세계 중앙은행이 불황을 피할 수 있도록 '유효한' 정책을 계속 추진하라고 권고했다.  IMF 수석 경제전문가 기타 고피나트는 미-중 1단계 무역 협상이 마무리되고, 노딜 브렉시트의 가능성이 줄어들면서 글로벌 성장세가 안정화될 수도 있다는 잠정적인 신호가 있다고 덧붙였다. 이어서 그는 제조업과 무역 분야가 바닥을 치고 다시 상승세를 타는 양상이며, 자동차 업종은 배기가스 배출기준 문제를 해결하기 시작하면서 회복의 조짐을 보인다고 말했다. 하지만 미-중 갈등이 다시 고조될 수 있으며, 미국과 유럽연합(EU) 간에도 무역전쟁이 생길 수 있다고 고피나트는 경고했다. 더불어 중동 지역의 지정학적 긴장이 커지면서 전 세계적으로 사회 불안이 심화되고 있다고 말했다.  이번 다보스 포럼의 의제는 분쟁 해결, 지리적·경제적 충돌, 기술전쟁에 초점을 맞췄다. ...

2020.01.21

딥페이크는 어떻게 마케팅에 위협이 되나

인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 영화의 CG처럼 합성한 영상편집물인 딥페이크(Deepfakes)는 정치인에게만 위협이 되는 게 아니다. 딥페이크가 만들어 내는 가짜 마케팅의 위험에 주의를 기울여야 한다.   미국 하원의장 낸시 펠로시가 술에 취한 것처럼 발음이 불분명하게 이야기하는 동영상을 본 적이 있는가? 아니면 페이스북의 CEO 마크 저커버그가 대중의 비밀을 아는 것에 대해 농담하는 것을 본 적이 있지 않은가? 아니면 라스푸틴이 비욘세의 노래를 부르거나 앤디 워홀이 버거킹 버거를 먹거나 살바도르 달리가 되살아나는 동영상은?  2018년 전 미국 대통령 버락 오바마는 한 동영상에서 적들이 언제든지 누군가로 가장하여 말할 수 있다는 점에 대해 경고했다. 오래전에 죽은 예술가를 2019년에 볼 수 있다는 것은 재미있어 보일 수 있다. 하지만 여기에는 웹의 진정성에 대한 더욱더 어두운 문제가 숨어 있다. 그리고 적합하지 않은 뉴스를 약화시키기 위해 흘러나오는 가짜 뉴스 레이블에 관한 우려가 고조되는 시대에 딥페이크 때문에 웹 신뢰성의 위기가 가속화될 처지에 놓인 것으로 보인다. 딥페이크는 기본적으로 누군가 가상의 행동이나 발언을 하는 것처럼 보여주는 동영상이며 때에 따라 오디오일 수도 있다. 정치인, 역사적인 인물, 익명의 개인 등 실제 인물을 보여줄 수 있다. 그리고 앤디 워홀이나 살바도르 달리처럼 오래전에 죽은 사람들이 그들의 일생에는 절대로 할 수 없었던 발언이나 상호작용을 하는 것처럼 제작할 수 있다. 사진에 생명을 가져다준 머신러닝 사이버 포렌식 조사관 겸 사이버 범죄 전문 입회인 사이먼 스미스는 <CMO>에 '딥페이크'라는 용어가 가짜 동영상을 제작하기 위해 사용되는 딥러닝 기술에서 파생된 것이라고 말했다. 그는 "최고의 기술을 이용해 [얼굴만 보았을 때] 사람 얼굴에서 모든 근육의 움직임을 배치하고 학습 알고리즘으로 복제한 후 단어, 문구, 태도, 감정 등과 연동시킨다"라고 설명했다. ...

CMO 연예인 가짜 마케팅 CG 인플루언서 합성 딥페이크 정치인 영상 패턴 인식 포렌식 인공지능 유명인

2019.07.23

인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 영화의 CG처럼 합성한 영상편집물인 딥페이크(Deepfakes)는 정치인에게만 위협이 되는 게 아니다. 딥페이크가 만들어 내는 가짜 마케팅의 위험에 주의를 기울여야 한다.   미국 하원의장 낸시 펠로시가 술에 취한 것처럼 발음이 불분명하게 이야기하는 동영상을 본 적이 있는가? 아니면 페이스북의 CEO 마크 저커버그가 대중의 비밀을 아는 것에 대해 농담하는 것을 본 적이 있지 않은가? 아니면 라스푸틴이 비욘세의 노래를 부르거나 앤디 워홀이 버거킹 버거를 먹거나 살바도르 달리가 되살아나는 동영상은?  2018년 전 미국 대통령 버락 오바마는 한 동영상에서 적들이 언제든지 누군가로 가장하여 말할 수 있다는 점에 대해 경고했다. 오래전에 죽은 예술가를 2019년에 볼 수 있다는 것은 재미있어 보일 수 있다. 하지만 여기에는 웹의 진정성에 대한 더욱더 어두운 문제가 숨어 있다. 그리고 적합하지 않은 뉴스를 약화시키기 위해 흘러나오는 가짜 뉴스 레이블에 관한 우려가 고조되는 시대에 딥페이크 때문에 웹 신뢰성의 위기가 가속화될 처지에 놓인 것으로 보인다. 딥페이크는 기본적으로 누군가 가상의 행동이나 발언을 하는 것처럼 보여주는 동영상이며 때에 따라 오디오일 수도 있다. 정치인, 역사적인 인물, 익명의 개인 등 실제 인물을 보여줄 수 있다. 그리고 앤디 워홀이나 살바도르 달리처럼 오래전에 죽은 사람들이 그들의 일생에는 절대로 할 수 없었던 발언이나 상호작용을 하는 것처럼 제작할 수 있다. 사진에 생명을 가져다준 머신러닝 사이버 포렌식 조사관 겸 사이버 범죄 전문 입회인 사이먼 스미스는 <CMO>에 '딥페이크'라는 용어가 가짜 동영상을 제작하기 위해 사용되는 딥러닝 기술에서 파생된 것이라고 말했다. 그는 "최고의 기술을 이용해 [얼굴만 보았을 때] 사람 얼굴에서 모든 근육의 움직임을 배치하고 학습 알고리즘으로 복제한 후 단어, 문구, 태도, 감정 등과 연동시킨다"라고 설명했다. ...

2019.07.23

머신러닝으로 만드는 가짜 영상··· 딥페이크란? 잠재적 위험성은?

딥페이크(Deepfake)란 마치 진짜처럼 보이고 들리는 가짜 동영상 또는 오디오 녹음본이다. 한 때는 CIA나 GCHQ의 JTRIG 등 할리우드 특수 효과 스튜디오와 정보기관에게만 이를 만들어낼 역량이 있었지만 지금은 누구든 여가 시간에 딥페이크 소프트웨어를 다운로드하여 진짜처럼 보이는 가짜 동영상을 만들 수 있다. 현재까지 딥페이크를 만드는 이들은 유명인의 얼굴을 포르노 스타의 몸에 합성하거나 정치인들이 웃긴 이야기를 하도록 만드는 아마추어 취미가에 그쳤다. 하지만 잠재적 위험성이 커지는 중이다. 공격이 임박했다는 비상 경보 딥페이크를 만들거나 가짜 성관계 동영상으로 누군가의 결혼을 망치거나 투표가 시작되기 수일 전에 후보자 중 한 사람의 가짜 동영상 또는 오디오 녹화본을 유출시키는 등의 시나리오가 가능하다. (편집자 주 : 본 기사는 2018년 11월 게재한 <팩트를 조작한다··· 딥페이크란? 잠재적 위험성은?>을 업데이트한 것이다.) 딥페이크는 얼마나 위험한가? 플로리다의 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 이를 현대의 핵무기와 비교했다. 그는 이렇게 말했다. "미국을 위협하려면 10대의 항공모함과 핵무기 그리고 장거리 미사일이 필요했다. 지금은 다르다. 인터넷, 뱅킹 시스템, 전기 그리드, 인프라에 액세스하면 되고 점차 우리의 선거를 망치고 국내에서 엄청난 위기를 조장하며 우리를 약화시키는 매우 현실적인 가짜 동영상을 제작하는 능력만 있으면 된다." 정치적 과장법일까? 아니면 딥페이크가 정말로 핵무기보다 더 위협적일까? 루비오의 말을 들으면 우리는 아마겟돈으로 치닫고 있다. 하지만 모두가 이에 동의하지는 않는다. BKC(Berkman-Klein Center)와 MIT 미디어 랩의 윤리 및 AI 계획 관리 이사 팀 황은 "핵폭탄만큼 위험하다고? 그렇지 않다고 생각한다. 몇몇 사례는 분명 충격적이지만, 딥페이크가 의도한 대로 사람들이 휩쓸리지는 않...

GAN 딥페이크 가짜 동영상 샬로우 페이크

2019.04.12

딥페이크(Deepfake)란 마치 진짜처럼 보이고 들리는 가짜 동영상 또는 오디오 녹음본이다. 한 때는 CIA나 GCHQ의 JTRIG 등 할리우드 특수 효과 스튜디오와 정보기관에게만 이를 만들어낼 역량이 있었지만 지금은 누구든 여가 시간에 딥페이크 소프트웨어를 다운로드하여 진짜처럼 보이는 가짜 동영상을 만들 수 있다. 현재까지 딥페이크를 만드는 이들은 유명인의 얼굴을 포르노 스타의 몸에 합성하거나 정치인들이 웃긴 이야기를 하도록 만드는 아마추어 취미가에 그쳤다. 하지만 잠재적 위험성이 커지는 중이다. 공격이 임박했다는 비상 경보 딥페이크를 만들거나 가짜 성관계 동영상으로 누군가의 결혼을 망치거나 투표가 시작되기 수일 전에 후보자 중 한 사람의 가짜 동영상 또는 오디오 녹화본을 유출시키는 등의 시나리오가 가능하다. (편집자 주 : 본 기사는 2018년 11월 게재한 <팩트를 조작한다··· 딥페이크란? 잠재적 위험성은?>을 업데이트한 것이다.) 딥페이크는 얼마나 위험한가? 플로리다의 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 이를 현대의 핵무기와 비교했다. 그는 이렇게 말했다. "미국을 위협하려면 10대의 항공모함과 핵무기 그리고 장거리 미사일이 필요했다. 지금은 다르다. 인터넷, 뱅킹 시스템, 전기 그리드, 인프라에 액세스하면 되고 점차 우리의 선거를 망치고 국내에서 엄청난 위기를 조장하며 우리를 약화시키는 매우 현실적인 가짜 동영상을 제작하는 능력만 있으면 된다." 정치적 과장법일까? 아니면 딥페이크가 정말로 핵무기보다 더 위협적일까? 루비오의 말을 들으면 우리는 아마겟돈으로 치닫고 있다. 하지만 모두가 이에 동의하지는 않는다. BKC(Berkman-Klein Center)와 MIT 미디어 랩의 윤리 및 AI 계획 관리 이사 팀 황은 "핵폭탄만큼 위험하다고? 그렇지 않다고 생각한다. 몇몇 사례는 분명 충격적이지만, 딥페이크가 의도한 대로 사람들이 휩쓸리지는 않...

2019.04.12

팩트를 조작한다··· 딥페이크란? 잠재적 위험성은?

딥페이크(Deepfake)는 실제처럼 보이고 들리는 가짜 동영상 또는 오디오 파일이다. 한 때는 CIA나 GCHQ(Government Communications HeadQuarters, 영국 정부통신본부)의 JTRIG(Joint Threat Research Intelligence Group, 합동 위협 연구 정보 그룹) 등 할리우드 특수 효과 스튜디오와 정보기관이 제작했지만, 지금은 누구든 여가 시간에 딥페이크 소프트웨어를 다운로드하여 진짜처럼 보이는 가짜 동영상을 만들 수 있다. 현재까지 딥페이크를 만드는 목적은 그리 다양하지 않았다. 그저 유명인의 얼굴을 포르노 스타의 몸에 합성하거나 정치인들이 웃긴 이야기를 하도록 만드는 정도였다. 하지만 잠재적 문제 가능성은 작지 않다. 공격이 임박했다는 비상 경보 경고의 딥페이크를 만들거나 가짜 성관계 동영상으로 누군가의 결혼을 망치거나 투표가 시작되기 수 일 전에 후보자 중 한 사람의 가짜 동영상 또는 오디오 녹화본을 유출시키는 시나리오가 가능하다. 이로 인해 많은 사람들이 불안해하고 있으며 플로리다의 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 이를 현대의 핵무기와 비교했다. 그는 수 주 전 워싱턴에서 청중들에게 이렇게 말했다. "미국을 위협하려면 10대의 항공모함과 핵무기 그리고 장거리 미사일이 필요하다. 지금은 우리의 인터넷 시스템, 뱅킹 시스템, 전기 그리드, 인프라에 액세스하면 되고 점차 우리의 선거를 망치고 국내에서 엄청난 위기를 조장하며 우리를 약화시키는 매우 현실적인 가짜 동영상을 제작하는 능력만 있으면 된다." 흔히 볼 수 있는 과장된 정치적 수사일까? 아니면 딥페이크가 정말로 핵무기보다 더 위협적일까? 루비오의 말을 들으면 우리는 아마겟돈으로 치닫고 있는 듯 하다. 하지만 모두가 이에 동의하지는 않는다. BKC(Berkman-Klein Center)와 MIT 미디어 랩의 윤리 및 AI 계획 관리 이사 팀 황은 &...

페이크 뉴스 딥페이크 가짜 동영상 합성

2018.11.12

딥페이크(Deepfake)는 실제처럼 보이고 들리는 가짜 동영상 또는 오디오 파일이다. 한 때는 CIA나 GCHQ(Government Communications HeadQuarters, 영국 정부통신본부)의 JTRIG(Joint Threat Research Intelligence Group, 합동 위협 연구 정보 그룹) 등 할리우드 특수 효과 스튜디오와 정보기관이 제작했지만, 지금은 누구든 여가 시간에 딥페이크 소프트웨어를 다운로드하여 진짜처럼 보이는 가짜 동영상을 만들 수 있다. 현재까지 딥페이크를 만드는 목적은 그리 다양하지 않았다. 그저 유명인의 얼굴을 포르노 스타의 몸에 합성하거나 정치인들이 웃긴 이야기를 하도록 만드는 정도였다. 하지만 잠재적 문제 가능성은 작지 않다. 공격이 임박했다는 비상 경보 경고의 딥페이크를 만들거나 가짜 성관계 동영상으로 누군가의 결혼을 망치거나 투표가 시작되기 수 일 전에 후보자 중 한 사람의 가짜 동영상 또는 오디오 녹화본을 유출시키는 시나리오가 가능하다. 이로 인해 많은 사람들이 불안해하고 있으며 플로리다의 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 이를 현대의 핵무기와 비교했다. 그는 수 주 전 워싱턴에서 청중들에게 이렇게 말했다. "미국을 위협하려면 10대의 항공모함과 핵무기 그리고 장거리 미사일이 필요하다. 지금은 우리의 인터넷 시스템, 뱅킹 시스템, 전기 그리드, 인프라에 액세스하면 되고 점차 우리의 선거를 망치고 국내에서 엄청난 위기를 조장하며 우리를 약화시키는 매우 현실적인 가짜 동영상을 제작하는 능력만 있으면 된다." 흔히 볼 수 있는 과장된 정치적 수사일까? 아니면 딥페이크가 정말로 핵무기보다 더 위협적일까? 루비오의 말을 들으면 우리는 아마겟돈으로 치닫고 있는 듯 하다. 하지만 모두가 이에 동의하지는 않는다. BKC(Berkman-Klein Center)와 MIT 미디어 랩의 윤리 및 AI 계획 관리 이사 팀 황은 &...

2018.11.12

"가짜 동영상 그 이상"··· '딥페이크'가 위험한 이유

딥페이크(Deepfake)는 실제처럼 보이고 들리는 가짜 동영상 또는 오디오 녹음본이다. 한 때는 CIA, GCHQ의 JTRIG 등 할리우드 특수효과 업체나 정보기관 정도만 만들 수 있었지만, 지금은 누구든 딥페이크 소프트웨어를 다운로드해 진짜처럼 보이는 가짜 동영상을 쉽게 만들 수 있다. 현재까지 딥페이크는 유명인의 얼굴을 포르노 스타의 몸에 합성하는 장난 같은 것이 대부분이었다. 그러나 전쟁이 임박했다는 경고 딥페이크를 만들거나 가짜 성관계 동영상으로 누군가의 결혼을 망치거나, 투표가 시작되기 수 일 전에 특정 후보자의 가짜 동영상 또는 오디오 녹화본이라며 선거에 영향을 주는 것이 점점 더 쉬워졌다. 플로리다의 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 딥페이크를 핵무기에 비교하기도 했다. 그는 얼마전 한 강연에서 "과거에는 미국을 위협하려면 항공모함 10대와 핵무기 그리고 장거리 미사일이 필요했다. 그러나 지금은 인터넷 시스템과 뱅킹 시스템, 전기 그리드, 인프라를 해킹하면 된다. 진짜 같은 가짜 동영상을 만들어 선거를 망치고 엄청난 위기를 조장하며 우리 사회를 혼란하게 할 수 있다"라고 말했다. 이 발언은 대선 경선 패배로 정치적 야심이 좌절된 사람의 왜곡된 정치적 과장법일까? 아니면 딥페이크가 정말로 핵무기보다 더 위협적일까? 그의 말 대로라면 세상은 아마겟돈(Armageddon)으로 치닫고 있다. 하지만 모두가 이에 동의하는 것은 아니다. BKC(Berkman-Klein Center)와 MIT 미디어 랩(MIT Media Lab)의 윤리 및 AI 계획 관리 이사 팀 황은 "딥페이크가 핵폭탄만큼 위험하다고 생각하지 않는다. 몇몇 사례는 분명 충격적이지만, 딥페이크가 의도한 대로 사람들이 휩쓸리지는 않을 것이다"라고 말했다. 딥페이크의 원리 사실 인간은 믿는 대로 보는 측면이 있다. 자신이 믿고 싶은 것을 뒷받침하는 정보를 찾고 나머지는 무시한다. 악당은 노리는 것도 이...

보안 가짜뉴스 딥페이크 deepfake

2018.08.02

딥페이크(Deepfake)는 실제처럼 보이고 들리는 가짜 동영상 또는 오디오 녹음본이다. 한 때는 CIA, GCHQ의 JTRIG 등 할리우드 특수효과 업체나 정보기관 정도만 만들 수 있었지만, 지금은 누구든 딥페이크 소프트웨어를 다운로드해 진짜처럼 보이는 가짜 동영상을 쉽게 만들 수 있다. 현재까지 딥페이크는 유명인의 얼굴을 포르노 스타의 몸에 합성하는 장난 같은 것이 대부분이었다. 그러나 전쟁이 임박했다는 경고 딥페이크를 만들거나 가짜 성관계 동영상으로 누군가의 결혼을 망치거나, 투표가 시작되기 수 일 전에 특정 후보자의 가짜 동영상 또는 오디오 녹화본이라며 선거에 영향을 주는 것이 점점 더 쉬워졌다. 플로리다의 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 딥페이크를 핵무기에 비교하기도 했다. 그는 얼마전 한 강연에서 "과거에는 미국을 위협하려면 항공모함 10대와 핵무기 그리고 장거리 미사일이 필요했다. 그러나 지금은 인터넷 시스템과 뱅킹 시스템, 전기 그리드, 인프라를 해킹하면 된다. 진짜 같은 가짜 동영상을 만들어 선거를 망치고 엄청난 위기를 조장하며 우리 사회를 혼란하게 할 수 있다"라고 말했다. 이 발언은 대선 경선 패배로 정치적 야심이 좌절된 사람의 왜곡된 정치적 과장법일까? 아니면 딥페이크가 정말로 핵무기보다 더 위협적일까? 그의 말 대로라면 세상은 아마겟돈(Armageddon)으로 치닫고 있다. 하지만 모두가 이에 동의하는 것은 아니다. BKC(Berkman-Klein Center)와 MIT 미디어 랩(MIT Media Lab)의 윤리 및 AI 계획 관리 이사 팀 황은 "딥페이크가 핵폭탄만큼 위험하다고 생각하지 않는다. 몇몇 사례는 분명 충격적이지만, 딥페이크가 의도한 대로 사람들이 휩쓸리지는 않을 것이다"라고 말했다. 딥페이크의 원리 사실 인간은 믿는 대로 보는 측면이 있다. 자신이 믿고 싶은 것을 뒷받침하는 정보를 찾고 나머지는 무시한다. 악당은 노리는 것도 이...

2018.08.02

IDG 설문조사

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.13