Offcanvas

������

살상 로봇 보이콧 '철회'··· 카이스트, 치명적인 자율 무기 개발 않겠다

최근 한국과학기술원(KAIST)의 인공지능 무기 연구를 문제 삼으며 공동연구를 보이콧한 전세계 유명 AI 및 로봇 학자 50여 명이 자신들이 결정을 철회한다고 밝혔다. 카이스트 총장이 치명적인 자율 무기를 개발하지 않겠다고 약속했으며 50여 명의 학자가 이를 받아들인 것으로 전해졌다. 카이스트와 한화시스템(Hanwha Systems)이 지난 2월 AI 무기 연구실을 공동으로 설립했는데, 지난주 30개국의 인공지능 및 로봇 전문가 50여 명은 여기에 불참하겠다고 밝힌 바 있다. 4월 9일 카이스트 신성철 총장은 "KAIST가 치명적인 자율 무기 시스템이나 살인 로봇 개발에 관여할 의도가 없다"며 "카이스트는 인간의 의미있는 통제가 결여된 자율 무기를 포함한 인간의 존엄성에 반하는 연구 활동을 하지 않겠다"고 밝혔다. 10일 AI 전문가들은 "무기 개발에 인공지능을 책임 있게 사용하겠다는 신속하고 확실한 약속을 고려해 보이콧에 서명한 56명의 인공지능 연구원과 로봇공학 연구원은 보이콧 행동을 철회했다"고 말했다. 호주 뉴사우스웨일즈대학에서 인공지능을 연구하는 토비 월시 교수는 AI 기반 무기의 의미있는 인간 통제가 개발되도록 자율 무기와 국제 규범을 개발하지 않기로 합의해 기쁘다고 전했다. "이는 우리가 주장하고 그 행동이 성공을 거둔 과학 공동체의 힘을 보여주는 것이다. 처음에 우리는 새 연구소의 목적이 무엇인지 개별적으로 대학에 요청했다. 카이스트는 보이콧을 발표한 지 하루 만에 매우 공개적으로 그리고 분명하게 확신을 보냈다"고 말했다. 월시 교수에 따르면, 군사 환경에서도 인공지능용 애플리케이션이 무수히 많다. 월시 교수는 “예를 들어 지뢰 제거나 폭탄 해체 같은 위험한 일은 로봇이 할 수 있는 완벽한 작업이다. 그러나 누구를 살리고 누구를 죽일지 결정하는 일을 기계에 넘겨서는 안 된다. 그것은 도덕적인 경고를 넘어 새로운 대량 살상 무기...

CIO 지뢰 유엔 보이콧 킬러 로봇 살상 KAIST 한국과학기술원 카이스트 무기 전쟁 인공지능 안보 폭탄

2018.04.11

최근 한국과학기술원(KAIST)의 인공지능 무기 연구를 문제 삼으며 공동연구를 보이콧한 전세계 유명 AI 및 로봇 학자 50여 명이 자신들이 결정을 철회한다고 밝혔다. 카이스트 총장이 치명적인 자율 무기를 개발하지 않겠다고 약속했으며 50여 명의 학자가 이를 받아들인 것으로 전해졌다. 카이스트와 한화시스템(Hanwha Systems)이 지난 2월 AI 무기 연구실을 공동으로 설립했는데, 지난주 30개국의 인공지능 및 로봇 전문가 50여 명은 여기에 불참하겠다고 밝힌 바 있다. 4월 9일 카이스트 신성철 총장은 "KAIST가 치명적인 자율 무기 시스템이나 살인 로봇 개발에 관여할 의도가 없다"며 "카이스트는 인간의 의미있는 통제가 결여된 자율 무기를 포함한 인간의 존엄성에 반하는 연구 활동을 하지 않겠다"고 밝혔다. 10일 AI 전문가들은 "무기 개발에 인공지능을 책임 있게 사용하겠다는 신속하고 확실한 약속을 고려해 보이콧에 서명한 56명의 인공지능 연구원과 로봇공학 연구원은 보이콧 행동을 철회했다"고 말했다. 호주 뉴사우스웨일즈대학에서 인공지능을 연구하는 토비 월시 교수는 AI 기반 무기의 의미있는 인간 통제가 개발되도록 자율 무기와 국제 규범을 개발하지 않기로 합의해 기쁘다고 전했다. "이는 우리가 주장하고 그 행동이 성공을 거둔 과학 공동체의 힘을 보여주는 것이다. 처음에 우리는 새 연구소의 목적이 무엇인지 개별적으로 대학에 요청했다. 카이스트는 보이콧을 발표한 지 하루 만에 매우 공개적으로 그리고 분명하게 확신을 보냈다"고 말했다. 월시 교수에 따르면, 군사 환경에서도 인공지능용 애플리케이션이 무수히 많다. 월시 교수는 “예를 들어 지뢰 제거나 폭탄 해체 같은 위험한 일은 로봇이 할 수 있는 완벽한 작업이다. 그러나 누구를 살리고 누구를 죽일지 결정하는 일을 기계에 넘겨서는 안 된다. 그것은 도덕적인 경고를 넘어 새로운 대량 살상 무기...

2018.04.11

페이스북·MS, 지난해 사용자 데이터 요구 수천 건 받았다

페이스북과 마이크로소프트가 각각 지난해 하반기에 미국 당국의 법 집행 조사의 일환으로 사용자 데이터에 대한 수천 건의 요청을 받은 사실이 뒤늦게 밝혀졌다. 이러한 조사 중 일부는 국가 안보에 관련됐을 수도 있고 그렇지 않을 수도 있다. 국가 안보 요청에 기업이 포함된 것은 처음일 수 있지만, 페이스북과 마이크로소프트는 아직도 실제 이들 기업이 포함됐는지 여부에 대해 밝히지 않고 있다. 이들 기업은 자사 블로그 게시물에서 몇 가지를 발표했다. 페이스북은 9,000~1만 건을, 마이크로소프트는 6,000~7,000건을 각각 요구받았다고 밝혔다. 페이스북이 말한 데이터 요청 건수의 경우, 가디언과 워싱턴포스트의 ‘국가 보안 기관이 주요 인터넷 기업 서버에 직접 접근했다’는 의혹을 제기한 기사가 난 후 미국 정부와 장기간 논의한 끝에 내린 결과였다. 페이스북은 국가 안보와 관련한 요청에 대해 더 많은 정보를 공개하도록 정부가 요구했으며 현재까지 이는 금지됐다고 말했다. 그러나 정부가 정한 제한은, 해외 정보 감시법(FISA)에 따라 국가 안보의 이름으로 데이터를 스누핑하는 것을 해명해주지 못한다는 것을 의미한다. 마이크로소프트의 부 고문 변호사 존 프랭크는 "우리는 FISA 요청과 FISA 지침 등 국가 안보 요청에 따라 데이터를 공개할 수 있지만, 이는 미국 내, 지방 및 연방 법 집행기관들의 법 집행 요청을 집계할 경우에만 해당된다. 그것도 2012년 7월 1일부터 2012년 12월 31일까지 6개월 동안에 대해서, 1,000개의 대역에서 나타난 데이터에 대해서, 모든 마이크로소프트 고객 서비스를 함께 보고해야 했다"라고 블로그에 썼다. 다른 더 평범한 요청사항들과 함께 FISA와 관련한 국가 안보 요청을 분류하고 구분하도록 설계됐다. 프랭크는 “수천 가지의 요청에는 해외 정보 감시 법을 따르는 일부가 포함될 수 있지만 그렇지 않을 수도 있다”라고 블로그에 적었다. ...

페이스북 데이터 유출 마이크로소프트 안보 프리즘

2013.06.17

페이스북과 마이크로소프트가 각각 지난해 하반기에 미국 당국의 법 집행 조사의 일환으로 사용자 데이터에 대한 수천 건의 요청을 받은 사실이 뒤늦게 밝혀졌다. 이러한 조사 중 일부는 국가 안보에 관련됐을 수도 있고 그렇지 않을 수도 있다. 국가 안보 요청에 기업이 포함된 것은 처음일 수 있지만, 페이스북과 마이크로소프트는 아직도 실제 이들 기업이 포함됐는지 여부에 대해 밝히지 않고 있다. 이들 기업은 자사 블로그 게시물에서 몇 가지를 발표했다. 페이스북은 9,000~1만 건을, 마이크로소프트는 6,000~7,000건을 각각 요구받았다고 밝혔다. 페이스북이 말한 데이터 요청 건수의 경우, 가디언과 워싱턴포스트의 ‘국가 보안 기관이 주요 인터넷 기업 서버에 직접 접근했다’는 의혹을 제기한 기사가 난 후 미국 정부와 장기간 논의한 끝에 내린 결과였다. 페이스북은 국가 안보와 관련한 요청에 대해 더 많은 정보를 공개하도록 정부가 요구했으며 현재까지 이는 금지됐다고 말했다. 그러나 정부가 정한 제한은, 해외 정보 감시법(FISA)에 따라 국가 안보의 이름으로 데이터를 스누핑하는 것을 해명해주지 못한다는 것을 의미한다. 마이크로소프트의 부 고문 변호사 존 프랭크는 "우리는 FISA 요청과 FISA 지침 등 국가 안보 요청에 따라 데이터를 공개할 수 있지만, 이는 미국 내, 지방 및 연방 법 집행기관들의 법 집행 요청을 집계할 경우에만 해당된다. 그것도 2012년 7월 1일부터 2012년 12월 31일까지 6개월 동안에 대해서, 1,000개의 대역에서 나타난 데이터에 대해서, 모든 마이크로소프트 고객 서비스를 함께 보고해야 했다"라고 블로그에 썼다. 다른 더 평범한 요청사항들과 함께 FISA와 관련한 국가 안보 요청을 분류하고 구분하도록 설계됐다. 프랭크는 “수천 가지의 요청에는 해외 정보 감시 법을 따르는 일부가 포함될 수 있지만 그렇지 않을 수도 있다”라고 블로그에 적었다. ...

2013.06.17

'적군 확인해 자동으로 사격?' 바이오메트릭스와 전쟁의 만남

생체 보안 기술은 급격히 발전하고 있는 가운데, 군사용으로의 활용 방안이 속속 소개되고 있다. 일례로 원거리에서 개인의 홍채나 안면을 인식한 뒤 그 정보를 생체 정보 기반 ‘감시 리스트(Watch List)’와 대조해 테러리스트나 적군, 혹은 범죄자들을 접촉 없이도 찾아낼 전망이다. 이번주 개최된 바이오메트릭 컨소시움 컨퍼런스(Biometric Consortium Conference)에서 연구자들은, 원거리에서 홍채나 안면 정보와 같은 필요한 정보들을 스캔하여 적군이나 테러 용의자들을 잡아내는 등의, 향후 구현 가능할 것으로 예상되는 다양한 카메라 기반 시스템의 프로토타입들에 대해 소개했다. 이 시나리오가 실현된다면, 군대는 더 이상 생체 정보를 파악하기 위하여 지금까지와 같이 용의자와 접촉해야 할 필요가 없어지게 된다. 9/11 테러 이후 미군은 이라크와 아프가니스탄의 용의자들에게 지문 인식 도구를 사용해왔는데, 이는 측정 오류 가능성이 높다는 단점이 있었다. 원거리 신원확인 기술은 또 무인 항공기를 통해 보다 명확한 적의 생체 정보 데이터를 포착하는데에도 도움을 줄 것으로 기대되고 있다. 즉 미래의 전쟁은, 안구를 통해 적군을 파악하여 조준하는 등, 적의 생체 정보를 하나의 변수로 활용하는 등의 고도 자동화 방식으로 진행되는 것이다. 과학자들은 이와 관련, 홍채 스캔이 DNA 테스트에 비해 정확한 결과를 제공한다고 설명하고 있다. 쌍둥이의 경우 DNA는 동일할 수 있지만, 홍채는 각기 다르기 때문이라는 것이다. 미 공군 장교이자 미 공군 사관학교 철학과 조교수 겸 부학장인 마크 스위어텍은, “원거리에서의 원격 생체 정보 수집을 위한 기술은 충분히 갖춰져 있다. 이는 향후 몇 년 안에 상용화 될 수 있을 것이다”라고 말했다. 반면 스위어텍은 자동화된 공격이라는 아이디어에 대해 부정적인 입장을 보인다. 바이오메트릭 컨소시움 컨퍼런스에서 위와 같은 주제에 관하여 ...

보안 생체 인식 기술 안보 9/11

2011.09.30

생체 보안 기술은 급격히 발전하고 있는 가운데, 군사용으로의 활용 방안이 속속 소개되고 있다. 일례로 원거리에서 개인의 홍채나 안면을 인식한 뒤 그 정보를 생체 정보 기반 ‘감시 리스트(Watch List)’와 대조해 테러리스트나 적군, 혹은 범죄자들을 접촉 없이도 찾아낼 전망이다. 이번주 개최된 바이오메트릭 컨소시움 컨퍼런스(Biometric Consortium Conference)에서 연구자들은, 원거리에서 홍채나 안면 정보와 같은 필요한 정보들을 스캔하여 적군이나 테러 용의자들을 잡아내는 등의, 향후 구현 가능할 것으로 예상되는 다양한 카메라 기반 시스템의 프로토타입들에 대해 소개했다. 이 시나리오가 실현된다면, 군대는 더 이상 생체 정보를 파악하기 위하여 지금까지와 같이 용의자와 접촉해야 할 필요가 없어지게 된다. 9/11 테러 이후 미군은 이라크와 아프가니스탄의 용의자들에게 지문 인식 도구를 사용해왔는데, 이는 측정 오류 가능성이 높다는 단점이 있었다. 원거리 신원확인 기술은 또 무인 항공기를 통해 보다 명확한 적의 생체 정보 데이터를 포착하는데에도 도움을 줄 것으로 기대되고 있다. 즉 미래의 전쟁은, 안구를 통해 적군을 파악하여 조준하는 등, 적의 생체 정보를 하나의 변수로 활용하는 등의 고도 자동화 방식으로 진행되는 것이다. 과학자들은 이와 관련, 홍채 스캔이 DNA 테스트에 비해 정확한 결과를 제공한다고 설명하고 있다. 쌍둥이의 경우 DNA는 동일할 수 있지만, 홍채는 각기 다르기 때문이라는 것이다. 미 공군 장교이자 미 공군 사관학교 철학과 조교수 겸 부학장인 마크 스위어텍은, “원거리에서의 원격 생체 정보 수집을 위한 기술은 충분히 갖춰져 있다. 이는 향후 몇 년 안에 상용화 될 수 있을 것이다”라고 말했다. 반면 스위어텍은 자동화된 공격이라는 아이디어에 대해 부정적인 입장을 보인다. 바이오메트릭 컨소시움 컨퍼런스에서 위와 같은 주제에 관하여 ...

2011.09.30

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.5.0.5