Offcanvas

������������

"제재 없는 안면인식 기술 개발, 디스토피아 될 수도···" 마이크로소프트 경고

마이크로소프트 사장 겸 최고법률책임자 브래드 스미스는 안면인식 기술이 아무런 제재를 받지 않고 개발될 경우 미래가 비관적일 것으로 전망했다.   지난주 시드니 대학교 행사에서 스미스는 “조심하지 않으면 이 기술은 생각 없이, 법적 규제 없이 발전하고 2024년 어느 날 자고 일어나 보면 조지 오웰의 <1984>에서나 보던 장면이 현실이 되어 있을지도 모른다”고 경고했다. 안면인식 기술은 이미지나 동영상 피드에서 개인을 식별할 수 있는 기술로 ‘말 그대로 전대미문의 규모로 그 누구라도 가는 곳마다 추적할 수 있는’ 가능성을 내포하고 있기 때문이다. 그러한 반이상향적인 상상은 현실과 그리 멀지 않다. 중국의 '스카이넷(Skynet)' 감시 시스템은 안면인식 기술과 대규모 카메라 네트워크를 이용해 지명 수배 중인 탈주범부터 무단횡단자까지 모든 사람을 추적한다. 호주 정부는 전국 안면인식 서비스('전국 생체 안면 매칭 기능')를 구축 중이다. 호주 인권위원회로부터 국민의 사생활에 ‘전례 없는’ 영향을 미칠 수 있다고 경고를 받은 바 있는 서비스다. 스미스는 “현재 이 기술이 호주은행(NAB) 현금 인출기, 웨스트필드(Westfield) 쇼핑센터, 주요 공항 등 그 활용 장소가 점점 늘어나고 있기 때문에 이제는 무언가 조처를 해야 한다”고 강조했다. 지난 수개월 동안 마이크로소프트는 그 조치를 구체화해 왔다. 지난해 7월 블로그 게시물에서 안면인식 기술 규제를 촉구한 데 이어 12월에는 이 분야의 자체 업무에 적용되는 6대 원칙을 공개했다. 최근에는 여러 정부기관을 직접 로비하는 쪽으로 움직이고 있다. 법제화를 통해 안면인식 기술이 스미스의 표현을 빌리면 “태양 아래 거래라는 것을” 하는 모든 업체의 “바닥을 향한 경주”로 전락하는 것을 막기 위해서다. 단, 그 어떤 규제도 독립적...

정부 조지 오웰 스카이넷 ACLU 생체인식 1984 사생활 안면인식 규제 감시 개인정보 트위터 마이크로소프트 디스토피아

2019.04.01

마이크로소프트 사장 겸 최고법률책임자 브래드 스미스는 안면인식 기술이 아무런 제재를 받지 않고 개발될 경우 미래가 비관적일 것으로 전망했다.   지난주 시드니 대학교 행사에서 스미스는 “조심하지 않으면 이 기술은 생각 없이, 법적 규제 없이 발전하고 2024년 어느 날 자고 일어나 보면 조지 오웰의 <1984>에서나 보던 장면이 현실이 되어 있을지도 모른다”고 경고했다. 안면인식 기술은 이미지나 동영상 피드에서 개인을 식별할 수 있는 기술로 ‘말 그대로 전대미문의 규모로 그 누구라도 가는 곳마다 추적할 수 있는’ 가능성을 내포하고 있기 때문이다. 그러한 반이상향적인 상상은 현실과 그리 멀지 않다. 중국의 '스카이넷(Skynet)' 감시 시스템은 안면인식 기술과 대규모 카메라 네트워크를 이용해 지명 수배 중인 탈주범부터 무단횡단자까지 모든 사람을 추적한다. 호주 정부는 전국 안면인식 서비스('전국 생체 안면 매칭 기능')를 구축 중이다. 호주 인권위원회로부터 국민의 사생활에 ‘전례 없는’ 영향을 미칠 수 있다고 경고를 받은 바 있는 서비스다. 스미스는 “현재 이 기술이 호주은행(NAB) 현금 인출기, 웨스트필드(Westfield) 쇼핑센터, 주요 공항 등 그 활용 장소가 점점 늘어나고 있기 때문에 이제는 무언가 조처를 해야 한다”고 강조했다. 지난 수개월 동안 마이크로소프트는 그 조치를 구체화해 왔다. 지난해 7월 블로그 게시물에서 안면인식 기술 규제를 촉구한 데 이어 12월에는 이 분야의 자체 업무에 적용되는 6대 원칙을 공개했다. 최근에는 여러 정부기관을 직접 로비하는 쪽으로 움직이고 있다. 법제화를 통해 안면인식 기술이 스미스의 표현을 빌리면 “태양 아래 거래라는 것을” 하는 모든 업체의 “바닥을 향한 경주”로 전락하는 것을 막기 위해서다. 단, 그 어떤 규제도 독립적...

2019.04.01

칼럼 | 트럼프와 인공지능 그리고 '심판의 날'

최근 필자는 블룸버그뷰(BloombergView)에 실린 케이시 오네일의 글 '도널드 트럼프는 특이성이다(Donald Trump is the Singularity)'를 흥미롭게 읽었다. 그는 새 대통령 트럼프가 정부 운영을 위해 개발된 미래의 인공지능(AI) 시스템을 위한 완벽한 모델이 될 것이라고 주장했다. 처음에 필자는 이 글을 거의 무시했다. 영화 '터미네이터(Terminator)'에서 핵 전쟁을 일으킨 AI '스카이넷(Skynet)'이 인간을 더 효율적으로 바꾸기 위해 개발됐다고 언급했기 때문이다. 실제로 영화 속 설정은 그렇지 않다. 스카이넷은 스스로 만들어졌다. 본래 위협을 제거해 세계를 보호하는 방어 시스템으로 개발됐지만 인간이 강제로 정지하려 하자 오히려 인간을 주요 위협으로 간주해 없애기로 했다. 여담이지만 오네일은 무어의 법칙을 '무어의 황금률(Moore’s Rule of Thumb)'이라고 부른다. 실제로 더 정확한 표현이지만 개인적으로 '무어의 예측( Moore’s Prediction)'이란 말을 더 좋아한다. 오네일은 데이터 공학자로서 배경 지식이 탄탄하고 (흥미로운) 알고리즘 전문업체 ORCAA를 설립했다. 공상과학 영화에 대해서는 잘 모르더라도 과학에 대해서는 전문가임이 분명하다. 개인적으로는 그가 미래의 AI 시스템을 모방하는 인간에 대한 논의에서 벗어나 더 비판적인 입장을 견지하길 바랐다. 그러나 이런 아쉬움에도 불구하고 그의 주장은 다시 되새겨볼 필요가 있다. 이번 칼럼에서는 이 부분을 살펴보자. 'AI 에뮬레이션'으로서 도널드 트럼프 오네일은 트럼프가 미래의 AI 시스템을 위한 완벽한 모델이 될 것이라고 주장하며, 그 근거로 필자가 좋아하는 또 다른 공상과학 영화 '금단의 행성(Forbidden Planet)'을 언급했다. 주요 내용은 생각을 물질로 바꾸는 기계를 발명한 외계 ...

CIO 인공지능 Rob Enderle 트럼프 스카이넷

2017.02.14

최근 필자는 블룸버그뷰(BloombergView)에 실린 케이시 오네일의 글 '도널드 트럼프는 특이성이다(Donald Trump is the Singularity)'를 흥미롭게 읽었다. 그는 새 대통령 트럼프가 정부 운영을 위해 개발된 미래의 인공지능(AI) 시스템을 위한 완벽한 모델이 될 것이라고 주장했다. 처음에 필자는 이 글을 거의 무시했다. 영화 '터미네이터(Terminator)'에서 핵 전쟁을 일으킨 AI '스카이넷(Skynet)'이 인간을 더 효율적으로 바꾸기 위해 개발됐다고 언급했기 때문이다. 실제로 영화 속 설정은 그렇지 않다. 스카이넷은 스스로 만들어졌다. 본래 위협을 제거해 세계를 보호하는 방어 시스템으로 개발됐지만 인간이 강제로 정지하려 하자 오히려 인간을 주요 위협으로 간주해 없애기로 했다. 여담이지만 오네일은 무어의 법칙을 '무어의 황금률(Moore’s Rule of Thumb)'이라고 부른다. 실제로 더 정확한 표현이지만 개인적으로 '무어의 예측( Moore’s Prediction)'이란 말을 더 좋아한다. 오네일은 데이터 공학자로서 배경 지식이 탄탄하고 (흥미로운) 알고리즘 전문업체 ORCAA를 설립했다. 공상과학 영화에 대해서는 잘 모르더라도 과학에 대해서는 전문가임이 분명하다. 개인적으로는 그가 미래의 AI 시스템을 모방하는 인간에 대한 논의에서 벗어나 더 비판적인 입장을 견지하길 바랐다. 그러나 이런 아쉬움에도 불구하고 그의 주장은 다시 되새겨볼 필요가 있다. 이번 칼럼에서는 이 부분을 살펴보자. 'AI 에뮬레이션'으로서 도널드 트럼프 오네일은 트럼프가 미래의 AI 시스템을 위한 완벽한 모델이 될 것이라고 주장하며, 그 근거로 필자가 좋아하는 또 다른 공상과학 영화 '금단의 행성(Forbidden Planet)'을 언급했다. 주요 내용은 생각을 물질로 바꾸는 기계를 발명한 외계 ...

2017.02.14

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.5.0.5