Offcanvas

������������

“딥페이크, 10년 내 광고 및 미디어에서 널리 사용될 것”

4개 대학 연구진에 따르면 ‘딥페이크’가 10년 이내에 메인스트림 미디어 및 광고에서 널리 사용될 것이며, 개인화된 광고의 다음 단계를 제공할 수 있을 전망이다. ‘딥페이크 및 AI 생성 광고 시대를 위한 준비: 조작된 광고에 대한 반응을 이해하기 위한 프레임워크(Preparing for an Era of Deepfakes and AI-Generated Ads: A Framework for Understanding Responses to Manipulated Advertising)’은 딥페이크를 쓸 가능성이 높은 기업과 마케터의 (딥페이크) 사용 방식에 관한 새로운 연구다. 샌디에이고 대학교, 멜버른의 스윈번 기술 대학교, 브리티시 컬럼비아의 빅토리아 대학교, 런던 킹스 칼리지의 교수 4명이 공동 작성했다.    연구진은 현재까지 합성 방식으로 제작된 콘텐츠는 대부분 사용자, 일반적으로 인공지능(AI)으로 자신의 능력을 보여주려는 기술 전문가에 의해 생성됐다고 언급했다. 게다가 지금까지 나온 많은 콘텐츠는 분명히 가짜로 보인다. (여기서) 제작자는 창작물의 진위를 소비자에게 확신시키거나 속이기보다는 유머 그리고 딥페이크 기술 시연을 목표로 할 가능성이 더 높다.  하지만 광고주가 결국 실제와 구별할 수 없는 딥페이크를 생성할 수 있게 될 것이라는 데 연구진은 의심의 여지가 없다고 말했다. 그리고 이는 좋은 것이기도 하고 나쁜 것이기도 하다.  샌디에이고 대학교의 마케팅 및 광고 분야 디지털 혁신 연구진 겸 부교수 콜린 캠벨은 “모델을 완전히 생략하고 (소비자가) 옷을 입은 모습을 보여주는 광고를 상상해보라. 2002년 영화 마이너리티 리포트(Minority Report)의 미래형 광고와 유사하다”라고 설명했다.  이어 그는 “소비자가 광고에서 자신과 비슷한 사람을 볼 때 더욱더 긍정적인 (광고) 효과가 있다는 연구 결과가 많다. 브랜드는 소셜 미디어, 매장에 설치된 센서, 로열티 프로그램 등에서 추출한 데...

딥페이크 인공지능 GAN 합성 미디어 합성 광고 합성 콘텐츠

2일 전

4개 대학 연구진에 따르면 ‘딥페이크’가 10년 이내에 메인스트림 미디어 및 광고에서 널리 사용될 것이며, 개인화된 광고의 다음 단계를 제공할 수 있을 전망이다. ‘딥페이크 및 AI 생성 광고 시대를 위한 준비: 조작된 광고에 대한 반응을 이해하기 위한 프레임워크(Preparing for an Era of Deepfakes and AI-Generated Ads: A Framework for Understanding Responses to Manipulated Advertising)’은 딥페이크를 쓸 가능성이 높은 기업과 마케터의 (딥페이크) 사용 방식에 관한 새로운 연구다. 샌디에이고 대학교, 멜버른의 스윈번 기술 대학교, 브리티시 컬럼비아의 빅토리아 대학교, 런던 킹스 칼리지의 교수 4명이 공동 작성했다.    연구진은 현재까지 합성 방식으로 제작된 콘텐츠는 대부분 사용자, 일반적으로 인공지능(AI)으로 자신의 능력을 보여주려는 기술 전문가에 의해 생성됐다고 언급했다. 게다가 지금까지 나온 많은 콘텐츠는 분명히 가짜로 보인다. (여기서) 제작자는 창작물의 진위를 소비자에게 확신시키거나 속이기보다는 유머 그리고 딥페이크 기술 시연을 목표로 할 가능성이 더 높다.  하지만 광고주가 결국 실제와 구별할 수 없는 딥페이크를 생성할 수 있게 될 것이라는 데 연구진은 의심의 여지가 없다고 말했다. 그리고 이는 좋은 것이기도 하고 나쁜 것이기도 하다.  샌디에이고 대학교의 마케팅 및 광고 분야 디지털 혁신 연구진 겸 부교수 콜린 캠벨은 “모델을 완전히 생략하고 (소비자가) 옷을 입은 모습을 보여주는 광고를 상상해보라. 2002년 영화 마이너리티 리포트(Minority Report)의 미래형 광고와 유사하다”라고 설명했다.  이어 그는 “소비자가 광고에서 자신과 비슷한 사람을 볼 때 더욱더 긍정적인 (광고) 효과가 있다는 연구 결과가 많다. 브랜드는 소셜 미디어, 매장에 설치된 센서, 로열티 프로그램 등에서 추출한 데...

2일 전

칼럼ㅣ'합성 미디어'는 비즈니스를 어떻게 바꿀까

앞으로 10년 동안 AI가 영상, 소리, 글의 창작을 개선하고, 가속화하며, 변화시킬 전망이다.  향후 몇 년간 비즈니스에 영향을 미칠 가장 큰 기술 트렌드는 ‘합성 미디어(Synthetic media)’다. 물론 아직은 회의실과 줌 회의에서 거의 언급되지 않는 말이긴 하다. 그렇다면 지금부터 합성 미디어가 무엇인지, 그리고 이것이 왜 그렇게 영향을 미칠지 살펴보도록 하자.    합성 미디어는 인공지능(AI)에 의해 또는 인공지능의 도움을 받아 생성되는 모든 종류의 영상, 사진, 가상 객체, 소리, 글을 말한다. 이 카테고리에는 딥페이크 콘텐츠, 텍스트 명령어를 입력해 AI가 생성하는 ‘예술’, 가상현실 및 증강현실 환경의 가상 콘텐츠, 기타 새로운 콘텐츠 유형이 포함된다.  (지금까지) 많은 합성 미디어 도구는 학술 연구 또는 제한된 베타로 시작됐다. 하지만 이는 이제 비즈니스, 마케팅, 미디어 그리고 인간의 문화에 엄청난 영향을 미치기 직전이다.  얼마나 거대할까? ‘딥페이크: 인포칼립스가 오고 있다(Deepfakes: The Coming Infocalypse)’의 저자이자 합성 미디어 애널리스트 니나 쉬크는 (저서에서) “4년 이내에 모든 온라인 콘텐츠의 약 90%가 합성 미디어일 것”이라고 예상했다.  이러한 전망에는 그럴 만한 이유가 있다.  기업들은 일반적으로 디자인, 마케팅, 커뮤니케이션, 창의성이 필요하다. 합성 미디어는 이 모든 영역에서 혁명적인 변화를 주도하고 가속화해 매우 빠른 프로토타이핑, 창의적인 콘텐츠, 향상된 커뮤니케이션 및 디자인을 가능하게 할 것이다.  미래학자들은 AI가 인력을 대체할 것인지 아니면 증강할 것인지 수십 년 동안 숙고해왔다. 합성 미디어는 인간의 역량을 확장하고, 인간이 새로운 수준의 성과에 도달할 수 있는 도구를 제공하는 ‘증강’ 지점을 나타낸다.  이를테면 브랜드의 얼굴 역할을 할 대변인, 마스코트, 연예인을 둘 필...

합성 미디어 가상현실 혼합현실 증강현실 딥페이크 인공지능 가상 인플루언서 메타버스

2022.11.02

앞으로 10년 동안 AI가 영상, 소리, 글의 창작을 개선하고, 가속화하며, 변화시킬 전망이다.  향후 몇 년간 비즈니스에 영향을 미칠 가장 큰 기술 트렌드는 ‘합성 미디어(Synthetic media)’다. 물론 아직은 회의실과 줌 회의에서 거의 언급되지 않는 말이긴 하다. 그렇다면 지금부터 합성 미디어가 무엇인지, 그리고 이것이 왜 그렇게 영향을 미칠지 살펴보도록 하자.    합성 미디어는 인공지능(AI)에 의해 또는 인공지능의 도움을 받아 생성되는 모든 종류의 영상, 사진, 가상 객체, 소리, 글을 말한다. 이 카테고리에는 딥페이크 콘텐츠, 텍스트 명령어를 입력해 AI가 생성하는 ‘예술’, 가상현실 및 증강현실 환경의 가상 콘텐츠, 기타 새로운 콘텐츠 유형이 포함된다.  (지금까지) 많은 합성 미디어 도구는 학술 연구 또는 제한된 베타로 시작됐다. 하지만 이는 이제 비즈니스, 마케팅, 미디어 그리고 인간의 문화에 엄청난 영향을 미치기 직전이다.  얼마나 거대할까? ‘딥페이크: 인포칼립스가 오고 있다(Deepfakes: The Coming Infocalypse)’의 저자이자 합성 미디어 애널리스트 니나 쉬크는 (저서에서) “4년 이내에 모든 온라인 콘텐츠의 약 90%가 합성 미디어일 것”이라고 예상했다.  이러한 전망에는 그럴 만한 이유가 있다.  기업들은 일반적으로 디자인, 마케팅, 커뮤니케이션, 창의성이 필요하다. 합성 미디어는 이 모든 영역에서 혁명적인 변화를 주도하고 가속화해 매우 빠른 프로토타이핑, 창의적인 콘텐츠, 향상된 커뮤니케이션 및 디자인을 가능하게 할 것이다.  미래학자들은 AI가 인력을 대체할 것인지 아니면 증강할 것인지 수십 년 동안 숙고해왔다. 합성 미디어는 인간의 역량을 확장하고, 인간이 새로운 수준의 성과에 도달할 수 있는 도구를 제공하는 ‘증강’ 지점을 나타낸다.  이를테면 브랜드의 얼굴 역할을 할 대변인, 마스코트, 연예인을 둘 필...

2022.11.02

영상통화까지 했는데 가짜?! ‘딥페이크’의 위험성과 대응 방안

‘딥페이크(Deepfakes)’는 보안 및 위험 관리에 실질적인 위협이 된다. 기술이 발전하고, 악의적인 행위자가 서비스형 딥페이크(deepfakes as a service)에 접근할 수 있게 되면서 상황은 더욱더 악화될 전망이다.  지난 8월 암호화폐 거래소 바이낸스(Binance)의 최고 커뮤니케이션 책임자 패트릭 힐만은 받은 편지함을 스크롤 하다가 무언가 잘못됐다는 느낌을 받았다. 그가 참여한 것으로 보이는 투자자와의 화상통화에 관한 메시지 6개를 발견했기 때문이다.  뭔가 이상하다는 것을 전혀 눈치채지 못한 채 ‘투자 기회를 주셔서 감사합니다’, ‘투자 조언과 관련해 약간의 우려가 있습니다’, ‘비디오 품질이 좋지 않습니다’라고 답한 투자자가 있었고, ‘지난 목요일의 줌 통화가 당신이었는지 확인할 수 있습니까?’라고 물어본 투자자도 있었다.    힐만은 누군가가 자신의 사진과 목소리를 딥페이크하여 무려 20분 동안 고객들과 ‘사기’ 투자를 위해 비트코인을 넘기도록 설득하는 줌 통화를 했다는 사실을 파악했고, 가슴이 철렁 내려앉았다고 밝혔다. “투자자들은 나라고 사칭한 가짜 링크드인 및 텔레그램 프로필이 여러 상장 기회를 논의하는 자리에 초대했다고 전했다. 그리고 범죄자는 줌 통화에서 딥페이크 홀로그램을 사용하여 사기 치려고 했다”라고 그는 설명했다.  기사 작성 시점 기준 250억 달러 규모의 세계 최대 암호화폐 거래소 바이낸스가 고객들의 암호화폐를 빼돌리려는 투자 사기에 연루된 것이다. 힐만은 “처음 있는 일이었다”라며, “AI 기반 딥페이크는 먼 미래의 일이라고 생각했는데, 이미 와 있었다”라고 그는 덧붙였다.  이어 그는 몇몇 투자자가 영상에서 이상한 점과 지연되는 현상을 감지하지 않았다면 바이낸스는 (이 회사의) 막대한 보안 기술 및 인력 투자에도 이 딥페이크 영상 통화를 전혀 알아차리지 못했을 것이라고 전했다.  서비스형 딥페이크(Deepfakes as a service...

딥페이크 AI 영상통화 서비스형 딥페이크 BEC 기업 이메일 침해 데이터 무결성 생체인증

2022.09.27

‘딥페이크(Deepfakes)’는 보안 및 위험 관리에 실질적인 위협이 된다. 기술이 발전하고, 악의적인 행위자가 서비스형 딥페이크(deepfakes as a service)에 접근할 수 있게 되면서 상황은 더욱더 악화될 전망이다.  지난 8월 암호화폐 거래소 바이낸스(Binance)의 최고 커뮤니케이션 책임자 패트릭 힐만은 받은 편지함을 스크롤 하다가 무언가 잘못됐다는 느낌을 받았다. 그가 참여한 것으로 보이는 투자자와의 화상통화에 관한 메시지 6개를 발견했기 때문이다.  뭔가 이상하다는 것을 전혀 눈치채지 못한 채 ‘투자 기회를 주셔서 감사합니다’, ‘투자 조언과 관련해 약간의 우려가 있습니다’, ‘비디오 품질이 좋지 않습니다’라고 답한 투자자가 있었고, ‘지난 목요일의 줌 통화가 당신이었는지 확인할 수 있습니까?’라고 물어본 투자자도 있었다.    힐만은 누군가가 자신의 사진과 목소리를 딥페이크하여 무려 20분 동안 고객들과 ‘사기’ 투자를 위해 비트코인을 넘기도록 설득하는 줌 통화를 했다는 사실을 파악했고, 가슴이 철렁 내려앉았다고 밝혔다. “투자자들은 나라고 사칭한 가짜 링크드인 및 텔레그램 프로필이 여러 상장 기회를 논의하는 자리에 초대했다고 전했다. 그리고 범죄자는 줌 통화에서 딥페이크 홀로그램을 사용하여 사기 치려고 했다”라고 그는 설명했다.  기사 작성 시점 기준 250억 달러 규모의 세계 최대 암호화폐 거래소 바이낸스가 고객들의 암호화폐를 빼돌리려는 투자 사기에 연루된 것이다. 힐만은 “처음 있는 일이었다”라며, “AI 기반 딥페이크는 먼 미래의 일이라고 생각했는데, 이미 와 있었다”라고 그는 덧붙였다.  이어 그는 몇몇 투자자가 영상에서 이상한 점과 지연되는 현상을 감지하지 않았다면 바이낸스는 (이 회사의) 막대한 보안 기술 및 인력 투자에도 이 딥페이크 영상 통화를 전혀 알아차리지 못했을 것이라고 전했다.  서비스형 딥페이크(Deepfakes as a service...

2022.09.27

"딥페이크 사이버공격 점차 확산...주요 위협은 여전히 랜섬웨어·이메일"

VM웨어와 팔로알토의 보고서에 따르면 랜섬웨어와 기업 이메일 침해(Business Email Compromise, BEC)이 기업 보안 사고의 주요 원인인 한편, 지정학적 갈등이나 딥페이크로 인한 공격이 점점 늘어나는 것으로 조사됐다.    VM웨어는 이번주 발간한 '2022 글로벌 사고 위협 대응 보고서(2022 Global Incident Threat Response Report)'에서 랜섬웨어 공격과 BEC가 계속 증가하고 있으며, 딥페이크 및 제로데이 공격도 급부상하고 있다고 밝혔다.  팔로알토의 유닛42 위협 분석팀이 7월 발간한 ‘2022 유닛42 사이버사건 대응 보고서(2022 Unit 42 Incident Response Report)’도 VM웨어 조사 내용을 뒷받침한다. 2021년 5월부터 2022년 4월까지 12개월 동안 발생한 보안 사고의 원인 중 70%가 랜섬웨어 및 BEC 공격이라고 보고서는 기술했다.  이 밖에 125명의 사이버보안 및 사고 대응 전문가를 대상으로 실시된 VM웨어의 연례 설문조사 결과, 지정학적 갈등에 기인한 사이버 공격을 경험했다고 응답한 비율이 65%에 달한 것으로 드러났다. 러시아의 우크라이나 침공이 사이버 공격 증가세에 기여했다는 점을 알 수 있다고 보고서는 덧붙였다.  VM웨어는 "이전에는 가짜 뉴스 캠페인에 주로 사용됐던 딥페이크 기술이 사이버 범죄에 점점 더 많이 사용되고 있다"라고 설명했다. 딥페이크 공격은 주로 특정 국가의 후원을 받는 해커가 주도하고 있으며, 응답자의 66%가 최소 한 건의 딥페이크 기반 사이버 공격을 경험한 것으로 나타났다. 전년 대비 13% 더 높은 수치다.  BEC 공격의 전반적인 증가와 함께 이메일이 가장 잦은(78%) 사이버 공격 통로인 것으로 보고됐다. 2016년부터 2021년까지 BEC 침해 공격이 기업에 끼친 손실액은 433억 달러에 달한다고 보고서는 밝혔다. VM웨어는 “FBI에서도 여러 ...

딥페이크 사이버공격 랜섬웨어 이메일 VM웨어 팔로알토

2022.08.10

VM웨어와 팔로알토의 보고서에 따르면 랜섬웨어와 기업 이메일 침해(Business Email Compromise, BEC)이 기업 보안 사고의 주요 원인인 한편, 지정학적 갈등이나 딥페이크로 인한 공격이 점점 늘어나는 것으로 조사됐다.    VM웨어는 이번주 발간한 '2022 글로벌 사고 위협 대응 보고서(2022 Global Incident Threat Response Report)'에서 랜섬웨어 공격과 BEC가 계속 증가하고 있으며, 딥페이크 및 제로데이 공격도 급부상하고 있다고 밝혔다.  팔로알토의 유닛42 위협 분석팀이 7월 발간한 ‘2022 유닛42 사이버사건 대응 보고서(2022 Unit 42 Incident Response Report)’도 VM웨어 조사 내용을 뒷받침한다. 2021년 5월부터 2022년 4월까지 12개월 동안 발생한 보안 사고의 원인 중 70%가 랜섬웨어 및 BEC 공격이라고 보고서는 기술했다.  이 밖에 125명의 사이버보안 및 사고 대응 전문가를 대상으로 실시된 VM웨어의 연례 설문조사 결과, 지정학적 갈등에 기인한 사이버 공격을 경험했다고 응답한 비율이 65%에 달한 것으로 드러났다. 러시아의 우크라이나 침공이 사이버 공격 증가세에 기여했다는 점을 알 수 있다고 보고서는 덧붙였다.  VM웨어는 "이전에는 가짜 뉴스 캠페인에 주로 사용됐던 딥페이크 기술이 사이버 범죄에 점점 더 많이 사용되고 있다"라고 설명했다. 딥페이크 공격은 주로 특정 국가의 후원을 받는 해커가 주도하고 있으며, 응답자의 66%가 최소 한 건의 딥페이크 기반 사이버 공격을 경험한 것으로 나타났다. 전년 대비 13% 더 높은 수치다.  BEC 공격의 전반적인 증가와 함께 이메일이 가장 잦은(78%) 사이버 공격 통로인 것으로 보고됐다. 2016년부터 2021년까지 BEC 침해 공격이 기업에 끼친 손실액은 433억 달러에 달한다고 보고서는 밝혔다. VM웨어는 “FBI에서도 여러 ...

2022.08.10

‘해킹도 ML로 진화 중’ 머신러닝 해킹 수법 9가지

머신러닝 알고리즘은 보안 솔루션을 개선하여 애널리스트가 위협을 분류하고 취약점을 신속하게 해결할 수 있도록 지원한다. 하지만 동시에 해커들이 더 큰 규모의 복잡한 사이버 공격을 가하는 데 악용되고 있다.    머신러닝과 인공지능은 보안 위협을 검출하고 대응하는 핵심 기술이 되고 있다. 변화무쌍한 사이버 위협에 맞서 스스로 학습하고 적응할 수 있는 능력이 큰 강점이다.  한편 해커들이 머신러닝과 AI를 악용하여 사이버 공격을 확대하고, 보안 통제를 회피하며, 전례 없는 속도로 파괴적인 결과를 초래하는 새로운 취약성을 찾아내고 있다. 이 글에서는 해커가 이러한 기술을 악용하는 가장 일반적인 방법 9가지를 알아보고자 한다.  1. 스팸 필터를 속이는 스팸 메일  시장조사기관 옴디아(Omdia)의 애널리스트 페르난도 몬테네그로는 보안 관리자들이 수십 년 동안 스팸 메일을 걸러내는 데 머신러닝을 사용해 왔다고 말했다. “스팸 메일 차단이 머신러닝이 활용된 최초의 사례였다”라고 그는 설명했다. 하지만 머신러닝은 스팸 방지 필터를 속이는 데 악용될 수 있다. 스팸 필터가 특정 메일을 차단한 이유나 ‘스팸 지수’ 같은 정보를 생성한다면, 해커는 이를 사용하여 스팸 메일의 내용을 조정할 수 있다. “계속 이메일을 전송하면서 정보를 얻으면 스팸 필터 모델의 작동 기준을 재구성할 수 있다. 이를 통해 메일 내용을 미세하게 바꿔가면서 스팸 필터를 우회할 수 있게 된다”라고 그는 설명했다.   취약점은 스팸 필터에만 있지 않다. 몬테네그로는 점수나 기타 수치를 제공하는 보안업체가 잠재적으로 악용될 수 있다고 말했다. "모든 업체가 이러한 취약점을 안고 있는 것은 아니지만, 주의하지 않으면 누군가가 악용할 수 있는 정보를 의도치 않게 제공하게 될 수 있다"라고 그는 덧붙였다.  2. 더 정교해진 피싱 메일 공격자는 메시지가 스팸 필터를 통과할 수 있는지 테스트하기 위해 머신러닝 보안 도구를 사용하는 데 그치지 ...

머신러닝 사전대입공격 딥페이크 AI오염 AI퍼징

2022.06.14

머신러닝 알고리즘은 보안 솔루션을 개선하여 애널리스트가 위협을 분류하고 취약점을 신속하게 해결할 수 있도록 지원한다. 하지만 동시에 해커들이 더 큰 규모의 복잡한 사이버 공격을 가하는 데 악용되고 있다.    머신러닝과 인공지능은 보안 위협을 검출하고 대응하는 핵심 기술이 되고 있다. 변화무쌍한 사이버 위협에 맞서 스스로 학습하고 적응할 수 있는 능력이 큰 강점이다.  한편 해커들이 머신러닝과 AI를 악용하여 사이버 공격을 확대하고, 보안 통제를 회피하며, 전례 없는 속도로 파괴적인 결과를 초래하는 새로운 취약성을 찾아내고 있다. 이 글에서는 해커가 이러한 기술을 악용하는 가장 일반적인 방법 9가지를 알아보고자 한다.  1. 스팸 필터를 속이는 스팸 메일  시장조사기관 옴디아(Omdia)의 애널리스트 페르난도 몬테네그로는 보안 관리자들이 수십 년 동안 스팸 메일을 걸러내는 데 머신러닝을 사용해 왔다고 말했다. “스팸 메일 차단이 머신러닝이 활용된 최초의 사례였다”라고 그는 설명했다. 하지만 머신러닝은 스팸 방지 필터를 속이는 데 악용될 수 있다. 스팸 필터가 특정 메일을 차단한 이유나 ‘스팸 지수’ 같은 정보를 생성한다면, 해커는 이를 사용하여 스팸 메일의 내용을 조정할 수 있다. “계속 이메일을 전송하면서 정보를 얻으면 스팸 필터 모델의 작동 기준을 재구성할 수 있다. 이를 통해 메일 내용을 미세하게 바꿔가면서 스팸 필터를 우회할 수 있게 된다”라고 그는 설명했다.   취약점은 스팸 필터에만 있지 않다. 몬테네그로는 점수나 기타 수치를 제공하는 보안업체가 잠재적으로 악용될 수 있다고 말했다. "모든 업체가 이러한 취약점을 안고 있는 것은 아니지만, 주의하지 않으면 누군가가 악용할 수 있는 정보를 의도치 않게 제공하게 될 수 있다"라고 그는 덧붙였다.  2. 더 정교해진 피싱 메일 공격자는 메시지가 스팸 필터를 통과할 수 있는지 테스트하기 위해 머신러닝 보안 도구를 사용하는 데 그치지 ...

2022.06.14

숫자로 보는 2022년 사이버보안 동향 9가지

코로나19 팬데믹이 2년째에 접어들었다. 코로나19가 사람의 개인적 일상과 업무의 모든 측면에 영향을 미쳤다 해도 과언이 아니다. 엔터프라이즈 보안 측면에서도 팬데믹은 많은 것을 바꿔 놓았다.   수많은 근무자가 이제 집안의 Wi-Fi를 통해 기업 네트워크나 클라우드 기반 리소스에 액세스한다. IT 작업자는 원격 액세스를 통해 핵심 시스템의 문제를 해결한다. 공급망이 큰 압박에 휘청거리고, 사이버 공격자는 이런 잠재적 취약점을 지체하지 않고 악용한다.  불행한 일이지만, 2022년에도 사이버 공격의 범위와 수준은 더욱 높아질 것이 분명하다. 2022년 전망되는 사이버보안과 관련한 9가지 동향을 살펴보자.  2022년 사이버보안 동향 9가지 1. 강세 : 랜섬웨어 2. 강세 : 크립토마이닝/크립토재킹 3. 강세 : 딥페이크 4. 강세 : 비디오컨퍼런싱 공격 5. 약세 : VPN 6. 강세 : IoT 및 OT 공격 7. 강세 : 공급망 공격 8. 강세 : XDR 9. 약세 : 암호 강세 : 랜섬웨어는 사라지지 않는다 랜섬웨어 공격이 계속해서 증가하고 있으며 누그러질 기미도 보이지 않는다. 사이버보안 전문가 시라 루비노프는 “랜섬웨어 공격은 기하급수적으로 증가했고, 팬데믹으로 인해 온라인 활동과 디지털 환경이 늘어난 만큼 앞으로도 증가할 것이다. 재택근무 전환에 따라 기업은 사이버보안 태세를 서둘러 강화하고 있다. 이제 기업은 안전이 보장되지 않은 환경에서 여러 디바이스로 일과 개인적 활동을 병행하는 직원에 대처해야 한다”라고 말했다. 루비노프는 기업이 피싱 공격 방지에 도움이 되도록 전 직원을 대상으로 교육을 진행하는 등 사이버 위생을 구현하는 데 초점을 두어야 하며, 데이터 보호를 선제적으로 다루고 제로 트러스트 보안 모델 구현을 고려해야 한다고 조언했다. 주요 수치 : 가트너가 최근 발행한 ‘새로운 위험 모니터 보고서(Emerging Risks Monitor Report)’에 따르면, 기업 경영진이 가장 우려하는 것은 ‘...

랜섬웨어 크립토재킹 딥페이크 XDR

2022.01.14

코로나19 팬데믹이 2년째에 접어들었다. 코로나19가 사람의 개인적 일상과 업무의 모든 측면에 영향을 미쳤다 해도 과언이 아니다. 엔터프라이즈 보안 측면에서도 팬데믹은 많은 것을 바꿔 놓았다.   수많은 근무자가 이제 집안의 Wi-Fi를 통해 기업 네트워크나 클라우드 기반 리소스에 액세스한다. IT 작업자는 원격 액세스를 통해 핵심 시스템의 문제를 해결한다. 공급망이 큰 압박에 휘청거리고, 사이버 공격자는 이런 잠재적 취약점을 지체하지 않고 악용한다.  불행한 일이지만, 2022년에도 사이버 공격의 범위와 수준은 더욱 높아질 것이 분명하다. 2022년 전망되는 사이버보안과 관련한 9가지 동향을 살펴보자.  2022년 사이버보안 동향 9가지 1. 강세 : 랜섬웨어 2. 강세 : 크립토마이닝/크립토재킹 3. 강세 : 딥페이크 4. 강세 : 비디오컨퍼런싱 공격 5. 약세 : VPN 6. 강세 : IoT 및 OT 공격 7. 강세 : 공급망 공격 8. 강세 : XDR 9. 약세 : 암호 강세 : 랜섬웨어는 사라지지 않는다 랜섬웨어 공격이 계속해서 증가하고 있으며 누그러질 기미도 보이지 않는다. 사이버보안 전문가 시라 루비노프는 “랜섬웨어 공격은 기하급수적으로 증가했고, 팬데믹으로 인해 온라인 활동과 디지털 환경이 늘어난 만큼 앞으로도 증가할 것이다. 재택근무 전환에 따라 기업은 사이버보안 태세를 서둘러 강화하고 있다. 이제 기업은 안전이 보장되지 않은 환경에서 여러 디바이스로 일과 개인적 활동을 병행하는 직원에 대처해야 한다”라고 말했다. 루비노프는 기업이 피싱 공격 방지에 도움이 되도록 전 직원을 대상으로 교육을 진행하는 등 사이버 위생을 구현하는 데 초점을 두어야 하며, 데이터 보호를 선제적으로 다루고 제로 트러스트 보안 모델 구현을 고려해야 한다고 조언했다. 주요 수치 : 가트너가 최근 발행한 ‘새로운 위험 모니터 보고서(Emerging Risks Monitor Report)’에 따르면, 기업 경영진이 가장 우려하는 것은 ‘...

2022.01.14

어떻게 세상 바꿀까?··· 도전장 던진 'AI 스타트업' 5곳

소매업, 제조업, 농업 등 다양한 산업에서 ‘딥러닝(Deep Learning)’이 어려운 과제를 해결하고 있다. 여기에 앞장서고 있는 스타트업을 살펴본다.  딥러닝과 뉴럴 네트워크의 발전은 자연어 처리(NLP) 및 컴퓨터 비전에 엄청난 혁신을 가져왔다. 또한 이 기술에는 제조, 소매, 공급망, 농업 등 수많은 비즈니스 영역의 어려운 과제를 해결할 잠재력이 있다. 그리고 가장 중요한 혁신의 뒤에는 기술 스타트업이 자리하고 있기 마련이다. 여기에서는 ‘응용 AI(applied AI)’ 스타트업을 소개한다. 이 스타트업들은 완전 자율주행차를 향해 가는 것부터 농업 생산의 경계를 넓히는 것까지 다양한 산업 과제를 해결하기 위해 이미지, 텍스트, 오디오, 영상, 범주형 데이터, 표 형식 데이터 또는 이들의 조합을 처리하는 가지각색의 기술을 적용하고 있다.    1. 아르고 AI(Argo AI) 아직 멀었는가? 자율주행차가 약속한 미래가 실현되길 오랫동안 기다리고 있지만 자율주행 기술 분야의 준비 작업은 계속되고 있다. ‘아르고 AI’는 자율주행차에 필요한 모든 것을 갖춘 플랫폼을 목표로 하는 스타트업이다. 버스나 기차를 타지 않아도 출퇴근 길에 책을 읽을 수 있는 멋진 미래로 가는 데 필요한 모든 소프트웨어, 하드웨어, 지도, 원격 인프라를 다룬다.   포드(Ford), 폭스바겐(Volkswagen) 등과 협력해 연구 범위를 넓혀 나가는 가운데 아르고 AI는 최근 ‘아르고 라이다(Argo Lidar)’를 공개했다. 이는 최대 400m 떨어진 물체를 인식할 수 있는 새로운 라이다 시스템이다.  회사에 따르면 이는 야간 및 저조도 환경에서 잘 작동하며, 다른 라이다 시스템에서는 문제를 일으킬 수 있는 상황(예: 터널에서 나올 때 밝기가 급격히 달라지는 것 등)도 원활하게 처리할 수 있다.  아르고 AI는 터무니없는 전망을 내놓기 보다는 안전한 보조 운전(assisted-driving) 경험을 위한 모든 요소...

AI 인공지능 머신러닝 딥러닝 뉴럴 네트워크 신경망 자연어 처리 컴퓨터 비전 응용 AI 아르고 AI 라이다 센서 세레스 이미징 랜딩 AI 센티넬 딥페이크 스탠다드 아마존 고

2021.07.14

소매업, 제조업, 농업 등 다양한 산업에서 ‘딥러닝(Deep Learning)’이 어려운 과제를 해결하고 있다. 여기에 앞장서고 있는 스타트업을 살펴본다.  딥러닝과 뉴럴 네트워크의 발전은 자연어 처리(NLP) 및 컴퓨터 비전에 엄청난 혁신을 가져왔다. 또한 이 기술에는 제조, 소매, 공급망, 농업 등 수많은 비즈니스 영역의 어려운 과제를 해결할 잠재력이 있다. 그리고 가장 중요한 혁신의 뒤에는 기술 스타트업이 자리하고 있기 마련이다. 여기에서는 ‘응용 AI(applied AI)’ 스타트업을 소개한다. 이 스타트업들은 완전 자율주행차를 향해 가는 것부터 농업 생산의 경계를 넓히는 것까지 다양한 산업 과제를 해결하기 위해 이미지, 텍스트, 오디오, 영상, 범주형 데이터, 표 형식 데이터 또는 이들의 조합을 처리하는 가지각색의 기술을 적용하고 있다.    1. 아르고 AI(Argo AI) 아직 멀었는가? 자율주행차가 약속한 미래가 실현되길 오랫동안 기다리고 있지만 자율주행 기술 분야의 준비 작업은 계속되고 있다. ‘아르고 AI’는 자율주행차에 필요한 모든 것을 갖춘 플랫폼을 목표로 하는 스타트업이다. 버스나 기차를 타지 않아도 출퇴근 길에 책을 읽을 수 있는 멋진 미래로 가는 데 필요한 모든 소프트웨어, 하드웨어, 지도, 원격 인프라를 다룬다.   포드(Ford), 폭스바겐(Volkswagen) 등과 협력해 연구 범위를 넓혀 나가는 가운데 아르고 AI는 최근 ‘아르고 라이다(Argo Lidar)’를 공개했다. 이는 최대 400m 떨어진 물체를 인식할 수 있는 새로운 라이다 시스템이다.  회사에 따르면 이는 야간 및 저조도 환경에서 잘 작동하며, 다른 라이다 시스템에서는 문제를 일으킬 수 있는 상황(예: 터널에서 나올 때 밝기가 급격히 달라지는 것 등)도 원활하게 처리할 수 있다.  아르고 AI는 터무니없는 전망을 내놓기 보다는 안전한 보조 운전(assisted-driving) 경험을 위한 모든 요소...

2021.07.14

'딥페이크 이미지 출처 찾는다'··· 페이스북, 자체 리버스 엔지니어링 기술 발표

페이스북이 딥페이크에 사용된 AI의 출처를 찾아낼 수 있는 기술을 미 대학 연구진과 함께 개발했다고 16일(현지시간) 블로그를 통해 발표했다. 이 기술을 통해 딥페이크 기반 부정행위를 효과적으로 검출할 수 있다는 설명이다.  페이스북은 미시간 주립대 연구진과 공동 개발한 리버스 엔지니어링 기술을 통해 특정 딥페이크 제작에 사용된 AI 모델을 추적할 수 있다고 말했다.    페이스북에 따르면 딥페이크 생성 모델은 딥페이크 이미지에 고유의 지문(fingerprint)을 남긴다. 이 지문은 네트워크 레이어 개수, 블록 개수 등 생성 모델마다 아키텍처를 구성하는 고유한 특성(하이퍼 파라미터)이 있기 때문에 생겨난다.  이번 리버스 엔지니어링은 이 지문을 추적함으로써 해당 딥페이크를 생성한 모델을 식별하는 기술이다. 규모, 반복적 특성, 주파수 대역 등 지문의 일반적 특성을 두루 고려해 생성 모델의 정보를 예측한다.  이 기술은 마치 자동차별 소리를 바탕으로 구성요소를 파악하는 것과 같다는 설명이다. 자동차마다 기본적인 외양은 비슷해 보여도 내부의 엔진이나 구성품이 다르면 소리도 다르게 난다. 이 리버스 엔지니어링은 바로 이 소리를 듣고서 자동차의 구성 요소를 인식하는 것과 같다고 페이스북은 설명했다. 페이스북은 "이 기술을 통해 딥페이크 제작에 사용된 생성 모델을 더욱 잘 유추할 수 있게 됐다"라며 "일련의 딥페이크들 간 패턴의 유사성을 추적함으로써 딥페이크가 하나의 출처로부터 생성됐는지 여부도 알 수 있다"라고 전했다. 이어 "이번 기술을 통해 딥페이크 검출에 대한 이해도를 높였다"라며 "연구자들과 실무진들이 딥페이크 기반 부정행위 사건들을 더욱 면밀하게 조사할 수 있게 됐다"라고 덧붙였다. ciokr@idg.co.kr  

페이스북 인공지능 딥페이크

2021.06.18

페이스북이 딥페이크에 사용된 AI의 출처를 찾아낼 수 있는 기술을 미 대학 연구진과 함께 개발했다고 16일(현지시간) 블로그를 통해 발표했다. 이 기술을 통해 딥페이크 기반 부정행위를 효과적으로 검출할 수 있다는 설명이다.  페이스북은 미시간 주립대 연구진과 공동 개발한 리버스 엔지니어링 기술을 통해 특정 딥페이크 제작에 사용된 AI 모델을 추적할 수 있다고 말했다.    페이스북에 따르면 딥페이크 생성 모델은 딥페이크 이미지에 고유의 지문(fingerprint)을 남긴다. 이 지문은 네트워크 레이어 개수, 블록 개수 등 생성 모델마다 아키텍처를 구성하는 고유한 특성(하이퍼 파라미터)이 있기 때문에 생겨난다.  이번 리버스 엔지니어링은 이 지문을 추적함으로써 해당 딥페이크를 생성한 모델을 식별하는 기술이다. 규모, 반복적 특성, 주파수 대역 등 지문의 일반적 특성을 두루 고려해 생성 모델의 정보를 예측한다.  이 기술은 마치 자동차별 소리를 바탕으로 구성요소를 파악하는 것과 같다는 설명이다. 자동차마다 기본적인 외양은 비슷해 보여도 내부의 엔진이나 구성품이 다르면 소리도 다르게 난다. 이 리버스 엔지니어링은 바로 이 소리를 듣고서 자동차의 구성 요소를 인식하는 것과 같다고 페이스북은 설명했다. 페이스북은 "이 기술을 통해 딥페이크 제작에 사용된 생성 모델을 더욱 잘 유추할 수 있게 됐다"라며 "일련의 딥페이크들 간 패턴의 유사성을 추적함으로써 딥페이크가 하나의 출처로부터 생성됐는지 여부도 알 수 있다"라고 전했다. 이어 "이번 기술을 통해 딥페이크 검출에 대한 이해도를 높였다"라며 "연구자들과 실무진들이 딥페이크 기반 부정행위 사건들을 더욱 면밀하게 조사할 수 있게 됐다"라고 덧붙였다. ciokr@idg.co.kr  

2021.06.18

"한 단어만으로 이미지 내 서체 복사" 페이스북, 텍스트스타일브러쉬 공개

AI가 한 단어만 가지고도 이미지 속 타이포그래피나 캘리그래피 서체를 인식해 모방할 수 있다면?  페이스북이 단 한 개의 단어로 이미지 속 타이포그래피나 손글씨 서체를 인식해 다른 단어 및 문장에 바로 적용할 수 있는 AI 모델 '텍스트스타일브러쉬(TextStyleBrush)'를 6월 11일(현지 시각) 공개했다.    워드의 서식 복사 도구가 이미지에 적용된 셈이라고 할 수 있다. 이전에도 이러한 작업을 수행할 순 있었다. 다만 제한된 조건에서 가능했다. 페이스북의 기술은 과거의 조건에서는 적절하지 않은 각도나 배경에서도 다양한 텍스트 및 손글씨 서체를 인식해 활용할 수 있으며, 특히 해당 작업이 한 개의 단어로도 가능하다는 게 특징이라고 회사 측은 밝혔다.  또 이전의 접근방식이 인식 및 복사를 위해 서체와 같은 특정 기준을 사용했다면 페이스북은 단어 상자에서 텍스트를 분리해 전체적으로 학습하는 방식을 취한다. 그다음 새로운 소스 스타일 샘플에 관한 재교육 없이 분리한 서체를 적용할 수 있다고 페이스북은 설명했다.  회사에 따르면 이 기술은 현재는 연구 프로젝트이지만 다양한 활용 가능성을 가지고 있다. 예를 들면 딥페이크 텍스트를 감지하고 방지하는 시스템을 구축하는 데 사용될 수 있다. 이 밖에 이미지 속 틀린 텍스트를 올바른 단어로 바꾸거나, 손글씨를 촬영해 나만의 글꼴을 만들거나, AR을 기반으로 도로표지판을 번역하는 등에 활용될 수 있을 것이라고 회사는 전했다. ciokr@idg.co.kr  

페이스북 인공지능 딥페이크 증강현실

2021.06.15

AI가 한 단어만 가지고도 이미지 속 타이포그래피나 캘리그래피 서체를 인식해 모방할 수 있다면?  페이스북이 단 한 개의 단어로 이미지 속 타이포그래피나 손글씨 서체를 인식해 다른 단어 및 문장에 바로 적용할 수 있는 AI 모델 '텍스트스타일브러쉬(TextStyleBrush)'를 6월 11일(현지 시각) 공개했다.    워드의 서식 복사 도구가 이미지에 적용된 셈이라고 할 수 있다. 이전에도 이러한 작업을 수행할 순 있었다. 다만 제한된 조건에서 가능했다. 페이스북의 기술은 과거의 조건에서는 적절하지 않은 각도나 배경에서도 다양한 텍스트 및 손글씨 서체를 인식해 활용할 수 있으며, 특히 해당 작업이 한 개의 단어로도 가능하다는 게 특징이라고 회사 측은 밝혔다.  또 이전의 접근방식이 인식 및 복사를 위해 서체와 같은 특정 기준을 사용했다면 페이스북은 단어 상자에서 텍스트를 분리해 전체적으로 학습하는 방식을 취한다. 그다음 새로운 소스 스타일 샘플에 관한 재교육 없이 분리한 서체를 적용할 수 있다고 페이스북은 설명했다.  회사에 따르면 이 기술은 현재는 연구 프로젝트이지만 다양한 활용 가능성을 가지고 있다. 예를 들면 딥페이크 텍스트를 감지하고 방지하는 시스템을 구축하는 데 사용될 수 있다. 이 밖에 이미지 속 틀린 텍스트를 올바른 단어로 바꾸거나, 손글씨를 촬영해 나만의 글꼴을 만들거나, AR을 기반으로 도로표지판을 번역하는 등에 활용될 수 있을 것이라고 회사는 전했다. ciokr@idg.co.kr  

2021.06.15

'모르면 낚인다'··· 2021년 새로운 소셜 엔지니어링 공격 7가지

그야말로 소셜 엔지니어링(Social engineering)의 ‘전성기’다. 특히나 팬데믹으로 인한 공황, 경기침체에 따른 불안감, 건강 및 안전에 관한 우려 등은 공격자들로 하여금 이러한 두려움을 더 쉽게 악용하도록 하고 있다.  소셜 엔지니어링은 ‘컴퓨터 시스템’이 아닌 ‘사용자’를 공격해 탈취로 이어지는 행동을 유도하거나 정보를 빼내려 시도한다. 이는 거짓말만큼이나 오래됐다. 컴퓨팅 시대에 맞춰 ‘거짓말’에 새로운 이름이 붙은 것이라고 비유할 수 있다. 소셜 엔지니어링 공격이 변화하는 양상을 고려한다면 완벽한 비유다.    보안인식 교육업체 노우비포(knowBe4)의 최고 에반젤리스트 겸 전략 책임자 페리 카펜터는 “대게 새로운 패키지로 포장됐을 뿐 동일한 속임수다”라고 말했다. 보안 전문가들의 말처럼 ‘포장’이 문제의 핵심이다. 익숙한 공격이라도 익숙하지 않은 위장과 포장으로 방어망을 빠져나갈 수 있다. 여기서는 2021년에 부상하고 있는 소셜 엔지니어링 공격을 살펴본다.  1. 악성 QR코드 지난해 QR코드와 관련된 피싱 사기가 등장했다. 기계로 읽을 수 있는 사각형 모양의 흑백 매트릭스 코드인 ‘QR코드’는 코로나19 사태 동안 기업이 고객과 접촉하고 서비스를 전달하는 데 활용되면서 많은 인기를 끌었다.  예를 들면 많은 레스토랑이 종이에 인쇄한 메뉴를 버리고, 그 대신 고객이 스마트폰으로 QR코드를 스캔해 메뉴를 확인하도록 만들었다. 또 올해 초 걸스카우트에서는 비대면 방식의 쿠키 주문 및 배달에 활용할 수 있는 QR코드를 게시하기도 했다.  하지만 QR코드를 스캔했을 때 이동하는 많은 웹사이트를 서드파티 벤더가 운영한다는 점에서 QR코드는 위험하다. 악성 QR코드를 스캔하면 스마트폰을 악성 웹사이트에 연결시킬 수 있기 때문이다.  마치 악성 링크를 클릭하는 것과 마찬가지다. 내용물은 같지만 포장지가 바뀐 것이다. 카펜터는 “사람들이 QR코드와 웹사이트는 문제없다고 생각할...

소셜 엔지니어링 피싱 스캠 딥페이크 팬데믹 원격근무 재택근무 QR코드 악성코드 알림 하이재킹 타이포스쿼팅 유사 도메인 사기

2021.04.15

그야말로 소셜 엔지니어링(Social engineering)의 ‘전성기’다. 특히나 팬데믹으로 인한 공황, 경기침체에 따른 불안감, 건강 및 안전에 관한 우려 등은 공격자들로 하여금 이러한 두려움을 더 쉽게 악용하도록 하고 있다.  소셜 엔지니어링은 ‘컴퓨터 시스템’이 아닌 ‘사용자’를 공격해 탈취로 이어지는 행동을 유도하거나 정보를 빼내려 시도한다. 이는 거짓말만큼이나 오래됐다. 컴퓨팅 시대에 맞춰 ‘거짓말’에 새로운 이름이 붙은 것이라고 비유할 수 있다. 소셜 엔지니어링 공격이 변화하는 양상을 고려한다면 완벽한 비유다.    보안인식 교육업체 노우비포(knowBe4)의 최고 에반젤리스트 겸 전략 책임자 페리 카펜터는 “대게 새로운 패키지로 포장됐을 뿐 동일한 속임수다”라고 말했다. 보안 전문가들의 말처럼 ‘포장’이 문제의 핵심이다. 익숙한 공격이라도 익숙하지 않은 위장과 포장으로 방어망을 빠져나갈 수 있다. 여기서는 2021년에 부상하고 있는 소셜 엔지니어링 공격을 살펴본다.  1. 악성 QR코드 지난해 QR코드와 관련된 피싱 사기가 등장했다. 기계로 읽을 수 있는 사각형 모양의 흑백 매트릭스 코드인 ‘QR코드’는 코로나19 사태 동안 기업이 고객과 접촉하고 서비스를 전달하는 데 활용되면서 많은 인기를 끌었다.  예를 들면 많은 레스토랑이 종이에 인쇄한 메뉴를 버리고, 그 대신 고객이 스마트폰으로 QR코드를 스캔해 메뉴를 확인하도록 만들었다. 또 올해 초 걸스카우트에서는 비대면 방식의 쿠키 주문 및 배달에 활용할 수 있는 QR코드를 게시하기도 했다.  하지만 QR코드를 스캔했을 때 이동하는 많은 웹사이트를 서드파티 벤더가 운영한다는 점에서 QR코드는 위험하다. 악성 QR코드를 스캔하면 스마트폰을 악성 웹사이트에 연결시킬 수 있기 때문이다.  마치 악성 링크를 클릭하는 것과 마찬가지다. 내용물은 같지만 포장지가 바뀐 것이다. 카펜터는 “사람들이 QR코드와 웹사이트는 문제없다고 생각할...

2021.04.15

딥페이크 비디오가 위험한 이유, '그리고 작동 방법'

딥페이크(Deepfakes)는 진짜처럼 보이는 가짜 비디오 또는 오디오 기록이다. 한때는 할리우드 특수효과 스튜디오와 CIA 또는 GCHQ의 JTRIG 부서와 같은 프로파간다를 생산하는 정보 기관의 전유물이었지만 이제는 누구나 딥페이크 소프트웨어를 다운로드해서 남는 시간에 그럴듯한 가짜 비디오를 만들어낼 수 있다.     지금까지 딥페이크는 아마추어 취미가들이 연예인 얼굴을 포르노 배우의 몸과 합성하거나 정치인이 하는 말을 조작하는 용도 정도로 사용됐다. 그러나 공격이 임박했다는 비상 경보 딥페이크를 만들거나 가짜 섹스 비디오를 사용해 누군가의 결혼 생활을 파탄에 이르게 하거나 투표 며칠 전에 후보자의 가짜 비디오 또는 오디오를 퍼뜨려 선거에 개입하기도 쉬워졌다. 딥페이크는 얼마나 위험한가? 딥페이크는 많은 이에게 우려의 대상이다. 미 플로리다 주 공화당 상원의원이자 2016년 대통령 후보였던 마르코 루비오는 딥페이크를 현대의 핵무기라고 표현했다. 루비오는 2주 전 워싱턴의 한 연설에서 “예전에는 미국을 위협하려면 10척의 항공모함과 핵무기, 장거리 미사일이 필요했다. 지금은 인터넷 시스템, 뱅킹 시스템, 전력망 및 인프라에 접근하면 된다. 진짜 같은 가짜 비디오를 제작할 능력만 있으면 선거를 훼방하고 미국을 심각한 내부적 위기로 몰아넣고 깊은 타격을 입힐 수 있다”라고 말했다. 결실을 맺지 못한 야심가의 왜곡된 정치적 과장일까, 아니면 딥페이크가 정말 핵무기보다 더 큰 위협일까? 루비오의 말만 들으면 세상은 종말을 향해 다가가는 듯하다. 하지만 모두가 루비오의 의견에 동의하는 것은 아니다. 버크만-클라인 센터(Berkman-Klein Center)와 MIT 미디어 랩(MIT Media Lab)에서 AI 이니셔티브의 윤리 감독 책임자인 팀 황은 “핵폭탄만큼 위험하다? 나는 그렇게 생각하지 않는다. 그동안의 실제 사례는 확실히 불안감을 준다. 사람들은 우려를 하면서 많은 질문을 던지지만 많은 이가 예상하는 것처럼 상황이 바뀔 가능성은...

딥페이크 Deepfakes

2021.03.26

딥페이크(Deepfakes)는 진짜처럼 보이는 가짜 비디오 또는 오디오 기록이다. 한때는 할리우드 특수효과 스튜디오와 CIA 또는 GCHQ의 JTRIG 부서와 같은 프로파간다를 생산하는 정보 기관의 전유물이었지만 이제는 누구나 딥페이크 소프트웨어를 다운로드해서 남는 시간에 그럴듯한 가짜 비디오를 만들어낼 수 있다.     지금까지 딥페이크는 아마추어 취미가들이 연예인 얼굴을 포르노 배우의 몸과 합성하거나 정치인이 하는 말을 조작하는 용도 정도로 사용됐다. 그러나 공격이 임박했다는 비상 경보 딥페이크를 만들거나 가짜 섹스 비디오를 사용해 누군가의 결혼 생활을 파탄에 이르게 하거나 투표 며칠 전에 후보자의 가짜 비디오 또는 오디오를 퍼뜨려 선거에 개입하기도 쉬워졌다. 딥페이크는 얼마나 위험한가? 딥페이크는 많은 이에게 우려의 대상이다. 미 플로리다 주 공화당 상원의원이자 2016년 대통령 후보였던 마르코 루비오는 딥페이크를 현대의 핵무기라고 표현했다. 루비오는 2주 전 워싱턴의 한 연설에서 “예전에는 미국을 위협하려면 10척의 항공모함과 핵무기, 장거리 미사일이 필요했다. 지금은 인터넷 시스템, 뱅킹 시스템, 전력망 및 인프라에 접근하면 된다. 진짜 같은 가짜 비디오를 제작할 능력만 있으면 선거를 훼방하고 미국을 심각한 내부적 위기로 몰아넣고 깊은 타격을 입힐 수 있다”라고 말했다. 결실을 맺지 못한 야심가의 왜곡된 정치적 과장일까, 아니면 딥페이크가 정말 핵무기보다 더 큰 위협일까? 루비오의 말만 들으면 세상은 종말을 향해 다가가는 듯하다. 하지만 모두가 루비오의 의견에 동의하는 것은 아니다. 버크만-클라인 센터(Berkman-Klein Center)와 MIT 미디어 랩(MIT Media Lab)에서 AI 이니셔티브의 윤리 감독 책임자인 팀 황은 “핵폭탄만큼 위험하다? 나는 그렇게 생각하지 않는다. 그동안의 실제 사례는 확실히 불안감을 준다. 사람들은 우려를 하면서 많은 질문을 던지지만 많은 이가 예상하는 것처럼 상황이 바뀔 가능성은...

2021.03.26

칼럼ㅣ가짜뉴스 온상 '소셜 미디어'가 '정보 안전지대'로 부상한다?

오늘날 트위터, 인스타그램, 페이스북 등의 소셜 미디어는 가짜 뉴스와 허위 정보의 온상이 됐다. 하지만 동시에 소셜 미디어는 이러한 문제를 해결할 방법이기도 하다.  최근 트위터와 페이스북 CEO는 美 국회에 소환됐고 고성과 호통이 오가는 가운데 취조를 받았다. 이는 ‘테크래시(Techlash; 거대 기술 기업에 대한 거센 반감)’라고 불리며, 미국 정치권에서 하나의 관행처럼 자리 잡고 있다.    美 상원 사법위원회 위원들은 정치적 편향, 혐오 발언 그리고 무엇보다도 국가 조직, 국내 음모론자, 선동가들이 소셜 미디어 알고리즘을 간단히 악용해 가짜 이력과 인물로 구성된 가짜 뉴스를 퍼뜨리는 허위 정보를 우려한다. 지금으로부터 1년 전, 美 대선에서 정치적 스캔들을 조작하기 위해 딥페이크(Deepfake) 영상이 사용되리라 우려하는 목소리가 높았다. 물론 그런 일은 일어나지 않았다. 아직은 육안으로 딥페이크 영상을 식별할 수 있어서다.  이와 반면에 딥페이크 사진은 실제와 허위를 구분할 수 없을 정도로 정교해졌다. 그리고 이번 대통령 선거에서 딥페이크 사진을 악용한 사건이 실제로 발생했다.  선거 몇 달 전, 타이푼 인베스티게이션(Typhoon Investigations)과 스위스 보안 애널리스트 마틴 아스펜이 조 바이든 대통령 당선인의 아들 헌터 바이든에 관한 불법행위 의혹을 제기하며 관련 문건을 공개했는데, 이것이 가짜로 드러난 것이다.  그 정보는 가짜였다. 회사와 애널리스트도 허구였다. 심지어 애널리스트의 프로필 사진조차 딥페이크 기술로 만들어진 가짜였다. 이는 많은 사람이 딥페이크 영상으로 일어나리라 우려했던, 일종의 AI를 악용한 정치적 테러였다. 그러나 이 가짜 문건은 대부분 텍스트로 이뤄져 있었고, 한 장의 딥페이크 사진을 통해 합법적이고 정당한 것으로 위장하려 했다. 물론 아이러니하게도, 기자들이 전체 문건을 철저히 조사하게 됐던 이유 역시 이 사진이기도 하지만 말이다.&nbs...

소셜 미디어 소셜 네트워크 트위터 페이스북 인스타그램 가짜뉴스 허위 정보 딥페이크 마이크로소프트 유튜브 텔레그램 테크래시

2020.12.08

오늘날 트위터, 인스타그램, 페이스북 등의 소셜 미디어는 가짜 뉴스와 허위 정보의 온상이 됐다. 하지만 동시에 소셜 미디어는 이러한 문제를 해결할 방법이기도 하다.  최근 트위터와 페이스북 CEO는 美 국회에 소환됐고 고성과 호통이 오가는 가운데 취조를 받았다. 이는 ‘테크래시(Techlash; 거대 기술 기업에 대한 거센 반감)’라고 불리며, 미국 정치권에서 하나의 관행처럼 자리 잡고 있다.    美 상원 사법위원회 위원들은 정치적 편향, 혐오 발언 그리고 무엇보다도 국가 조직, 국내 음모론자, 선동가들이 소셜 미디어 알고리즘을 간단히 악용해 가짜 이력과 인물로 구성된 가짜 뉴스를 퍼뜨리는 허위 정보를 우려한다. 지금으로부터 1년 전, 美 대선에서 정치적 스캔들을 조작하기 위해 딥페이크(Deepfake) 영상이 사용되리라 우려하는 목소리가 높았다. 물론 그런 일은 일어나지 않았다. 아직은 육안으로 딥페이크 영상을 식별할 수 있어서다.  이와 반면에 딥페이크 사진은 실제와 허위를 구분할 수 없을 정도로 정교해졌다. 그리고 이번 대통령 선거에서 딥페이크 사진을 악용한 사건이 실제로 발생했다.  선거 몇 달 전, 타이푼 인베스티게이션(Typhoon Investigations)과 스위스 보안 애널리스트 마틴 아스펜이 조 바이든 대통령 당선인의 아들 헌터 바이든에 관한 불법행위 의혹을 제기하며 관련 문건을 공개했는데, 이것이 가짜로 드러난 것이다.  그 정보는 가짜였다. 회사와 애널리스트도 허구였다. 심지어 애널리스트의 프로필 사진조차 딥페이크 기술로 만들어진 가짜였다. 이는 많은 사람이 딥페이크 영상으로 일어나리라 우려했던, 일종의 AI를 악용한 정치적 테러였다. 그러나 이 가짜 문건은 대부분 텍스트로 이뤄져 있었고, 한 장의 딥페이크 사진을 통해 합법적이고 정당한 것으로 위장하려 했다. 물론 아이러니하게도, 기자들이 전체 문건을 철저히 조사하게 됐던 이유 역시 이 사진이기도 하지만 말이다.&nbs...

2020.12.08

블로그ㅣ어도비, ‘모바일 경험’과 ‘원격 협업’을 향해 나아가다

어도비가 20일(현지 시각)부터 22일까지 온라인으로 개최되는 크리에이티브 컨퍼런스 ‘어도비 맥스 2020(Adobe Max 2020)’에서 다양한 기능을 공개했다. 포토샵의 AI 기능이 강화됐고, 아이패드용 일러스트레이터와 아이폰용 프레스코가 공개됐으며, 딥페이크와의 전쟁이 시작됐다.    ‘일러스트레이터’가 ‘아이패드’에 등장하다  iOS 사용자라면 반길 만한 소식이 있다. 바로 아이패드용 일러스트레이터(Illustrator for iPad)다. 애플 펜슬(Apple Pencil) 지원도 포함된다.  어도비는 “아이패드로 직관적이고 단순하게 디자인할 수 있도록 하는 동시에 사용자가 기대하는 모든 컨트롤을 정밀하게 만드는 것에 초점을 맞췄다”라고 말했다.  회사에 따르면 아이패드용 일러스트레이터 인터페이스는 사용자가 하고 있는 작업에 중점을 두도록 설계됐다. 또 반경(radius), 그리드(grid), 미러(mirror) 기능을 포함해 데스크톱 일러스트레이터와 거의 동일한 도구와 동작 방식을 지원한다.  물론 데스크톱 애플리케이션과 비교하면 누락된 요소가 일부 있긴 하다. 하지만 어도비가 발표한 아이패드용 일러스트레이터 개발 로드맵을 살펴보면 다른 크리에이티브 제품군과 마찬가지로 누락된 요소들은 머지않아 도입될 것으로 예상된다.    아이폰용 어도비 프레스코 아이폰 사용자가 처음으로 어도비 프레스코를 사용할 수 있게 됐다. 프레스코 2.0은 또한 아이패드와 PC도 지원한다. 이 드로잉 및 페인팅 앱은 어도비의 AI 센세이(Sensei)를 기반으로 하는 다양한 수채화 및 오일 브러시(3D 변형, 음성 텍스트 변환(STT), 로토 브러시 등 포함)를 제공한다. 여기에 텍스트 지원도 추가됐다. 또한 개선된 브러시 감도 제어를 비롯해 스머지 브러시 및 여러 개선사항도 포함됐다.  ‘딥페이크’와의 전쟁 로고나 패키징 디자인 등의 지적재산권을 보호하려는 기업이라면 ‘어도비 맥스...

어도비 포토샵 일러스트레이터 어도비 맥스 센세이 AI 인공지능 머신러닝 딥페이크 아이패드 아이폰 애플 펜슬 원격 협업 공동 작업 원격 교육

2020.10.21

어도비가 20일(현지 시각)부터 22일까지 온라인으로 개최되는 크리에이티브 컨퍼런스 ‘어도비 맥스 2020(Adobe Max 2020)’에서 다양한 기능을 공개했다. 포토샵의 AI 기능이 강화됐고, 아이패드용 일러스트레이터와 아이폰용 프레스코가 공개됐으며, 딥페이크와의 전쟁이 시작됐다.    ‘일러스트레이터’가 ‘아이패드’에 등장하다  iOS 사용자라면 반길 만한 소식이 있다. 바로 아이패드용 일러스트레이터(Illustrator for iPad)다. 애플 펜슬(Apple Pencil) 지원도 포함된다.  어도비는 “아이패드로 직관적이고 단순하게 디자인할 수 있도록 하는 동시에 사용자가 기대하는 모든 컨트롤을 정밀하게 만드는 것에 초점을 맞췄다”라고 말했다.  회사에 따르면 아이패드용 일러스트레이터 인터페이스는 사용자가 하고 있는 작업에 중점을 두도록 설계됐다. 또 반경(radius), 그리드(grid), 미러(mirror) 기능을 포함해 데스크톱 일러스트레이터와 거의 동일한 도구와 동작 방식을 지원한다.  물론 데스크톱 애플리케이션과 비교하면 누락된 요소가 일부 있긴 하다. 하지만 어도비가 발표한 아이패드용 일러스트레이터 개발 로드맵을 살펴보면 다른 크리에이티브 제품군과 마찬가지로 누락된 요소들은 머지않아 도입될 것으로 예상된다.    아이폰용 어도비 프레스코 아이폰 사용자가 처음으로 어도비 프레스코를 사용할 수 있게 됐다. 프레스코 2.0은 또한 아이패드와 PC도 지원한다. 이 드로잉 및 페인팅 앱은 어도비의 AI 센세이(Sensei)를 기반으로 하는 다양한 수채화 및 오일 브러시(3D 변형, 음성 텍스트 변환(STT), 로토 브러시 등 포함)를 제공한다. 여기에 텍스트 지원도 추가됐다. 또한 개선된 브러시 감도 제어를 비롯해 스머지 브러시 및 여러 개선사항도 포함됐다.  ‘딥페이크’와의 전쟁 로고나 패키징 디자인 등의 지적재산권을 보호하려는 기업이라면 ‘어도비 맥스...

2020.10.21

사람을 속이는 딥페이크, 어느 수준까지 와있을까?

딥페이크란 누군가가 실제로 말하거나 하지 않은 행동을 마치 말하고 행동한 것처럼 보이도록 하기 위해 딥러닝을 기반으로 영상이나 음성을 제작, 조작, 합성하는 것을 의미한다.  과거 미 커뮤니티 레딧의 /u/deepfake 라는 카테고리에, 포르노 배우의 몸에 다른 여배우의 얼굴을 합성한 영상이 올라온 적이 있다. 최초의 딥페이크 사례로 알려진 이 영상은 당시 비윤리적이긴 했지만 불법은 아니었다. 이후로 유명인이 말했던 내용이나 언어를 바꾼 딥페이크도 등장했다.    딥페이크는 수십 년에 걸쳐 축적된 '영상(혹은 영화) 합성'의 개념의 연장선상에 있다. 영상 합성에는 상당한 수준의 기술과 시간, 장비가 요구된다. 반면 딥페이크는 (GPU가 있으면) 대단한 기술이나 시간, 장비가 없어도 만들 수 있다. 눈썰미 있는 시청자라면 금방 눈치채긴 하더라도 말이다.  딥페이크를 만드는 방법 원래 딥페이크 제작에는 비지도 뉴럴 네트워크의 일종인 오토인코더(autoencoders)가 사용됐다. 물론 지금도 널리 사용되고 있기는 하다. 그러다가 몇몇 사람들이 GANs(아래에서 설명)를 이용하도록 영상 제작 기법을 발전시켰다. 여타 다른 머신러닝 기법 또한 사용되었으며, 몇몇 영상에는 머신러닝과 상관없는 기법이 활용되기도 했다. 이로 인해 다양한 딥페이크가 만들어졌다. 오토인코더 기본적으로 오토인코더(Autoencoder)는 이미지 속 얼굴을 딥페이크로 바꾸기 위해 두 단계를 거친다. 첫 번째 단계에서는 뉴럴 네트워크를 이용해 소스 이미지로부터 얼굴을 추출한 뒤, 이를 몇 가지 특징들과 마스크 모양으로 인코딩한다. 이때 몇몇 2D 콘볼루션 레이어와 몇 개의 덴스 레이어, 소프트맥스 레이어를 이용한다. 두 번째 단계에서는 또 다른 뉴럴 네트워크를 이용해 특징들을 디코딩하고, 생성된 얼굴을 업스케일하고, 필요에 따라 회전이나 크기 조정을 한 뒤, 업스케일된 얼굴을 다른 이미지에 적용한다. 오토인코더를 학습시켜 ...

딥페이크 딥러닝 인공지능

2020.09.17

딥페이크란 누군가가 실제로 말하거나 하지 않은 행동을 마치 말하고 행동한 것처럼 보이도록 하기 위해 딥러닝을 기반으로 영상이나 음성을 제작, 조작, 합성하는 것을 의미한다.  과거 미 커뮤니티 레딧의 /u/deepfake 라는 카테고리에, 포르노 배우의 몸에 다른 여배우의 얼굴을 합성한 영상이 올라온 적이 있다. 최초의 딥페이크 사례로 알려진 이 영상은 당시 비윤리적이긴 했지만 불법은 아니었다. 이후로 유명인이 말했던 내용이나 언어를 바꾼 딥페이크도 등장했다.    딥페이크는 수십 년에 걸쳐 축적된 '영상(혹은 영화) 합성'의 개념의 연장선상에 있다. 영상 합성에는 상당한 수준의 기술과 시간, 장비가 요구된다. 반면 딥페이크는 (GPU가 있으면) 대단한 기술이나 시간, 장비가 없어도 만들 수 있다. 눈썰미 있는 시청자라면 금방 눈치채긴 하더라도 말이다.  딥페이크를 만드는 방법 원래 딥페이크 제작에는 비지도 뉴럴 네트워크의 일종인 오토인코더(autoencoders)가 사용됐다. 물론 지금도 널리 사용되고 있기는 하다. 그러다가 몇몇 사람들이 GANs(아래에서 설명)를 이용하도록 영상 제작 기법을 발전시켰다. 여타 다른 머신러닝 기법 또한 사용되었으며, 몇몇 영상에는 머신러닝과 상관없는 기법이 활용되기도 했다. 이로 인해 다양한 딥페이크가 만들어졌다. 오토인코더 기본적으로 오토인코더(Autoencoder)는 이미지 속 얼굴을 딥페이크로 바꾸기 위해 두 단계를 거친다. 첫 번째 단계에서는 뉴럴 네트워크를 이용해 소스 이미지로부터 얼굴을 추출한 뒤, 이를 몇 가지 특징들과 마스크 모양으로 인코딩한다. 이때 몇몇 2D 콘볼루션 레이어와 몇 개의 덴스 레이어, 소프트맥스 레이어를 이용한다. 두 번째 단계에서는 또 다른 뉴럴 네트워크를 이용해 특징들을 디코딩하고, 생성된 얼굴을 업스케일하고, 필요에 따라 회전이나 크기 조정을 한 뒤, 업스케일된 얼굴을 다른 이미지에 적용한다. 오토인코더를 학습시켜 ...

2020.09.17

칼럼 | 디지털 기술과 범죄의 발전

“추적 불가능한 불법적인 금융거래 수단을 기반으로 이제 범죄는 더 이상 직접 저질러야만 하는 것이 아니라 돈을 주고 살 수 있는 것이 되었다. 이것이 CaaS(Crime as a Service)라는 새로운 비즈니스 모델이 되었다.”  - 마크 굿맨의 ‘Future Crimes: Everything Is Connected, Everyone Is Vulnerable and What We Can Do About It” 중에서. 텔레그램 메신저를 플랫폼으로 하고 암호화폐를 지불수단으로 한 최악의 집단 성착취 범죄로 대한민국의 국민이 분노하고 있다. 더구나 피해자 중에는 미성년자도 상당수 포함되어 있어 사법 당국은 전례 없는 강한 처벌을 언급하고 있다. 디지털 기술의 발전으로 경제, 문화, 사회의 긍정적인 발전 전망을 이야기하고 있는 오늘날, 인류 사회의 어두운 측면인 범죄 역시 디지털 기술의 발전에 따라 진화하고 있다. 오늘날 5G의 속도를 광고하는 문구가 ‘영화 다운로드, 16초에서 0.8초로’이다. 하루가 다르게 발전하는 네트워크의 속도와 포화상태에 이른 모바일 기기 보급, 그리고 4K급 화질을 능가하는 스마트폰의 카메라 등 하드웨어의 발전과 전세계를 연결하는 소셜 플랫폼의 확산, 블록체인 기술에 기반한 암호화폐의 등장 등 IT 기술의 발전으로 많은 이들이 미래 사회의 긍정적인 변화를 전망하지만 기술의 발전으로 인해 사회의 어두운 면 역시 함께 변화하는 것은 피할 수 없다. 인터넷의 등장과 전화선 모뎀에 의존하던 느린 통신망에서 ADSL이라는 디지털 기반의 혁신적인 통신 방식이 개발되어 대한민국의 IT 기술이 급속한 발전을 하던 시기인 1998년에 한 연예인이 오래전에 찍었던 사적인 비디오 영상이 디지털로 변환되어 인터넷망을 통해 불법적으로 확산된 사건이 있었다. 이전까지 소위 불법 비디오테이브 복제를 통해 은밀하게 손에서 손으로 전해지던 그런 영상이 디지털로 전환되고 전국적인 네트워크를 통해 순식간에 확산된 것이다. 당시에는 이를 통해 누군가가 범...

CIO 마크 굿맨 개인정보 탈취 Crime as a Service 디지털포렌식 딥페이크 CaaS 텔레그램 암호화폐 다크웹 정철환 메신저 5G 인공지능 피싱 사이버범죄 성착취

2020.04.01

“추적 불가능한 불법적인 금융거래 수단을 기반으로 이제 범죄는 더 이상 직접 저질러야만 하는 것이 아니라 돈을 주고 살 수 있는 것이 되었다. 이것이 CaaS(Crime as a Service)라는 새로운 비즈니스 모델이 되었다.”  - 마크 굿맨의 ‘Future Crimes: Everything Is Connected, Everyone Is Vulnerable and What We Can Do About It” 중에서. 텔레그램 메신저를 플랫폼으로 하고 암호화폐를 지불수단으로 한 최악의 집단 성착취 범죄로 대한민국의 국민이 분노하고 있다. 더구나 피해자 중에는 미성년자도 상당수 포함되어 있어 사법 당국은 전례 없는 강한 처벌을 언급하고 있다. 디지털 기술의 발전으로 경제, 문화, 사회의 긍정적인 발전 전망을 이야기하고 있는 오늘날, 인류 사회의 어두운 측면인 범죄 역시 디지털 기술의 발전에 따라 진화하고 있다. 오늘날 5G의 속도를 광고하는 문구가 ‘영화 다운로드, 16초에서 0.8초로’이다. 하루가 다르게 발전하는 네트워크의 속도와 포화상태에 이른 모바일 기기 보급, 그리고 4K급 화질을 능가하는 스마트폰의 카메라 등 하드웨어의 발전과 전세계를 연결하는 소셜 플랫폼의 확산, 블록체인 기술에 기반한 암호화폐의 등장 등 IT 기술의 발전으로 많은 이들이 미래 사회의 긍정적인 변화를 전망하지만 기술의 발전으로 인해 사회의 어두운 면 역시 함께 변화하는 것은 피할 수 없다. 인터넷의 등장과 전화선 모뎀에 의존하던 느린 통신망에서 ADSL이라는 디지털 기반의 혁신적인 통신 방식이 개발되어 대한민국의 IT 기술이 급속한 발전을 하던 시기인 1998년에 한 연예인이 오래전에 찍었던 사적인 비디오 영상이 디지털로 변환되어 인터넷망을 통해 불법적으로 확산된 사건이 있었다. 이전까지 소위 불법 비디오테이브 복제를 통해 은밀하게 손에서 손으로 전해지던 그런 영상이 디지털로 전환되고 전국적인 네트워크를 통해 순식간에 확산된 것이다. 당시에는 이를 통해 누군가가 범...

2020.04.01

칼럼ㅣ'가짜로 가득 찬 세상'을 구원할 존재도 결국 AI다

딥페이크 기술로 만든 영상부터 인공지능이 생성한 텍스트, 가짜 사이트와 인플루언서, 뉴스까지 ‘가짜’가 곳곳에서 판을 치고 있다. 현실이 '진짜'로 가득할 수 있을까?  어린 시절 종이 접시, 알루미늄 포일, 구슬로 UFO를 만들었던 적이 있다. 그리고 지붕에 UFO를 매달고 사진을 찍었다. 이 사진은 우주에 인간만 있는 것이 아니라는, 반박의 여지가 없는 증거로 활용됐다. 가짜가 없었던 적은 없다. 그러나 모든 것이 디지털화되면서 가짜를 만들고 전파하기가 더 쉬워지고, 더 빨라졌으며, 더 광범위해졌다. 그리고 AI는 이를 완전히 새로운 차원으로 바꿔 놓을 것이다. 그간 조작하기 어려웠던 영상이나 음성 등을 포함해 누구나 완벽한 가짜를 만들 수 있는 시대가 오고 있다.  가짜로 가득 찬 세상에서 우리는 어떻게 해야 할까?   가짜 뉴스(혹은 가짜에 대한 뉴스들) AI가 만들어낸 합성 영상이 정치 활동에서 허위 정보를 퍼뜨리거나 악의적인 목적으로 사용될 수 있다는 우려가 계속해서 제기돼 왔다. 그런데 최근 딥페이크가 정치 활동에서 실제로 사용됐다.  인도 인민당(Bharatiya Janata Party) 대표인 마노즈 티와리가 여러 언어로 연설하기 위해 딥페이크 영상을 사용한 것이다. 해당 사례에서 딥페이크는 경쟁자의 발언을 조작하는 데 쓰이진 않았다. 이는 딥페이크가 정치 활동에 공식적으로 사용된 첫 사례였다. 또한 원저자의 허가를 받아 AI로 가짜를 만든 사례가 있다. AI가 유명 래퍼 트래비스 스콧(Travis Scott)의 멜로디와 가사를 학습해 그의 스타일로 새로운 음원을 작사·작곡한 것이다. 미국 로스앤젤레스의 에이전시 스페이스 150이 추진한 프로젝트였다. 이 밖에 AI로 노래 가사를 생성해볼 수 있는 웹사이트도 있다.  작가처럼 글을 쓸 수 있는 AI도 있다. GPT-2가 바로 그것이다. 비영리 인공지능 연구기관 오픈AI가 공개한 GPT-2는 어떤 글 스타일이든 맥락을 고려한 문장들을 스스...

구글 딥페이크 가짜뉴스 블록체인 딥러닝 인공지능 AI 소셜 미디어 페이스북 생성적 적대 신경망

2020.02.26

딥페이크 기술로 만든 영상부터 인공지능이 생성한 텍스트, 가짜 사이트와 인플루언서, 뉴스까지 ‘가짜’가 곳곳에서 판을 치고 있다. 현실이 '진짜'로 가득할 수 있을까?  어린 시절 종이 접시, 알루미늄 포일, 구슬로 UFO를 만들었던 적이 있다. 그리고 지붕에 UFO를 매달고 사진을 찍었다. 이 사진은 우주에 인간만 있는 것이 아니라는, 반박의 여지가 없는 증거로 활용됐다. 가짜가 없었던 적은 없다. 그러나 모든 것이 디지털화되면서 가짜를 만들고 전파하기가 더 쉬워지고, 더 빨라졌으며, 더 광범위해졌다. 그리고 AI는 이를 완전히 새로운 차원으로 바꿔 놓을 것이다. 그간 조작하기 어려웠던 영상이나 음성 등을 포함해 누구나 완벽한 가짜를 만들 수 있는 시대가 오고 있다.  가짜로 가득 찬 세상에서 우리는 어떻게 해야 할까?   가짜 뉴스(혹은 가짜에 대한 뉴스들) AI가 만들어낸 합성 영상이 정치 활동에서 허위 정보를 퍼뜨리거나 악의적인 목적으로 사용될 수 있다는 우려가 계속해서 제기돼 왔다. 그런데 최근 딥페이크가 정치 활동에서 실제로 사용됐다.  인도 인민당(Bharatiya Janata Party) 대표인 마노즈 티와리가 여러 언어로 연설하기 위해 딥페이크 영상을 사용한 것이다. 해당 사례에서 딥페이크는 경쟁자의 발언을 조작하는 데 쓰이진 않았다. 이는 딥페이크가 정치 활동에 공식적으로 사용된 첫 사례였다. 또한 원저자의 허가를 받아 AI로 가짜를 만든 사례가 있다. AI가 유명 래퍼 트래비스 스콧(Travis Scott)의 멜로디와 가사를 학습해 그의 스타일로 새로운 음원을 작사·작곡한 것이다. 미국 로스앤젤레스의 에이전시 스페이스 150이 추진한 프로젝트였다. 이 밖에 AI로 노래 가사를 생성해볼 수 있는 웹사이트도 있다.  작가처럼 글을 쓸 수 있는 AI도 있다. GPT-2가 바로 그것이다. 비영리 인공지능 연구기관 오픈AI가 공개한 GPT-2는 어떤 글 스타일이든 맥락을 고려한 문장들을 스스...

2020.02.26

갈등부터 이해관계자 자본주의까지··· 2020 다보스포럼 미리보기

올해로 50주년을 맞는 다보스 포럼이 개막했다. ‘결속력 있고 지속가능한 세계를 위한 이해관계자('Stakeholders for a cohesive and sustainable world)’가 이번 세계경제포럼(WEF)의 핵심 의제다.  스위스 다보스에서 21일부터 24일 간 열리는 세계 경제 포럼은 올해 전 세계가 분열과 혼란 상태라는 사실에 초점을 맞출 예정이다. 패널 토론들도 근본적인 갈등을 해결하는 협력 방안에 대해 논의할 것이 유력하다.   IMF 상무이사 크리스티나 게오르기에바는 20일 WEF에서 IMF 세계경제전망을 발표하면서 이러한 위험에 대해 기탄없이 이야기했다.  게오르기에바는 만연한 불평등, 기술의 급속한 확산, 금융 분야의 엄청난 위험과 보상 등의 측면에서 2020년대와 1920년대를 비교하며 이 상황들이 20세기 세계대전의 발단이 된 조건들을 암시한다고 지적했다. 그는 이러한 위험을 멈추기 위해 각국이 힘을 합쳐야 한다고 촉구했다. 또한 그는 2019년 세계 경제를 다소 안정시키는 데 도움이 됐던 중앙은행들의 금리 인하 단행을 언급하면서 전 세계 중앙은행이 불황을 피할 수 있도록 '유효한' 정책을 계속 추진하라고 권고했다.  IMF 수석 경제전문가 기타 고피나트는 미-중 1단계 무역 협상이 마무리되고, 노딜 브렉시트의 가능성이 줄어들면서 글로벌 성장세가 안정화될 수도 있다는 잠정적인 신호가 있다고 덧붙였다. 이어서 그는 제조업과 무역 분야가 바닥을 치고 다시 상승세를 타는 양상이며, 자동차 업종은 배기가스 배출기준 문제를 해결하기 시작하면서 회복의 조짐을 보인다고 말했다. 하지만 미-중 갈등이 다시 고조될 수 있으며, 미국과 유럽연합(EU) 간에도 무역전쟁이 생길 수 있다고 고피나트는 경고했다. 더불어 중동 지역의 지정학적 긴장이 커지면서 전 세계적으로 사회 불안이 심화되고 있다고 말했다.  이번 다보스 포럼의 의제는 분쟁 해결, 지리적·경제적 충돌, 기술전쟁에 초점을 맞췄다. ...

세일즈포스 다보스포럼 4차산업혁명 데이터플로우 퀀텀컴퓨팅 딥페이크 미중무역분쟁 기술냉전 디지털세 세계경제전망 브렉시트 중동 시진핑 IMF 마크 베니오프 지속가능성 5G 빌게이츠 유럽연합 순다 피차이 사티아 나델라 도널드 트럼프 이방카트럼프

2020.01.21

올해로 50주년을 맞는 다보스 포럼이 개막했다. ‘결속력 있고 지속가능한 세계를 위한 이해관계자('Stakeholders for a cohesive and sustainable world)’가 이번 세계경제포럼(WEF)의 핵심 의제다.  스위스 다보스에서 21일부터 24일 간 열리는 세계 경제 포럼은 올해 전 세계가 분열과 혼란 상태라는 사실에 초점을 맞출 예정이다. 패널 토론들도 근본적인 갈등을 해결하는 협력 방안에 대해 논의할 것이 유력하다.   IMF 상무이사 크리스티나 게오르기에바는 20일 WEF에서 IMF 세계경제전망을 발표하면서 이러한 위험에 대해 기탄없이 이야기했다.  게오르기에바는 만연한 불평등, 기술의 급속한 확산, 금융 분야의 엄청난 위험과 보상 등의 측면에서 2020년대와 1920년대를 비교하며 이 상황들이 20세기 세계대전의 발단이 된 조건들을 암시한다고 지적했다. 그는 이러한 위험을 멈추기 위해 각국이 힘을 합쳐야 한다고 촉구했다. 또한 그는 2019년 세계 경제를 다소 안정시키는 데 도움이 됐던 중앙은행들의 금리 인하 단행을 언급하면서 전 세계 중앙은행이 불황을 피할 수 있도록 '유효한' 정책을 계속 추진하라고 권고했다.  IMF 수석 경제전문가 기타 고피나트는 미-중 1단계 무역 협상이 마무리되고, 노딜 브렉시트의 가능성이 줄어들면서 글로벌 성장세가 안정화될 수도 있다는 잠정적인 신호가 있다고 덧붙였다. 이어서 그는 제조업과 무역 분야가 바닥을 치고 다시 상승세를 타는 양상이며, 자동차 업종은 배기가스 배출기준 문제를 해결하기 시작하면서 회복의 조짐을 보인다고 말했다. 하지만 미-중 갈등이 다시 고조될 수 있으며, 미국과 유럽연합(EU) 간에도 무역전쟁이 생길 수 있다고 고피나트는 경고했다. 더불어 중동 지역의 지정학적 긴장이 커지면서 전 세계적으로 사회 불안이 심화되고 있다고 말했다.  이번 다보스 포럼의 의제는 분쟁 해결, 지리적·경제적 충돌, 기술전쟁에 초점을 맞췄다. ...

2020.01.21

IDG 설문조사

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.5.0.9