Offcanvas

AI / 로봇|자동화 / 분쟁|갈등 / 소프트스킬 / 신기술|미래 / 인문학|교양

"인간은 AI 판단 고리에서 빠져야 한다" UTS 로보틱스 교수

2018.07.31 George Nott  |  CIO Australia
인간이 인공지능 시스템의 '고리로부터 벗어나야 한다'라고 UTS 로보틱스 교수 마리-앤 윌리엄스가 시드니에서 열린 호주 인권위원회 기술 컨퍼런스에서 주장했다.

인공지능 센터 산하 매직 랩(Magic Lab) 소장인 윌리엄스 교수는 심지어 삶과 죽음을 결정하는 결정을 내릴 때에도 AI가 피와 살을 가진 인간과 상의할 필요가 없다고 제시했다. 인공지능 자율 무기에 대한 우려가 제기되고 있는 가운데, 상반되는 의견을 제시한 셈이다.

킬러 로봇 중지 캠페인(Campaign to Killer Robots)은 "국가는 인간의 생명을 앗아 가겠다는 결정이 결코 기계에 위임되지 않도록 보장함으로써 무기 시스템의 통제되지 않은 자율성을 상쇄해야한다"라고 주장한 바 있다.

호주에서도 122명의 인공지능 전문가들이 '의미있는 인간 통제'를 도외시한 무기 체계에 대해 "확고한 세계적인 입장을 취하라고 말콤 탁불 총리에게 촉구한 바 있다.

윌리엄스 교수는 그러나 이에 대해 "넌센스"라고 표현했다. 그녀는 "이러한 골든 룰은 오히려 위험하다. 테디베어나 안전담요와 같이 그저 붙잡고 있을 뿐이다. 만약 AI가 살상을 위해 쏘라고 판단한다면, 쏘지 않을 것이라고 응답할 수 있을까? 허울을 빨리 던져버릴 수록 오히려 살만한 가치 있는 미래를 건설할 기회를 더 많이 포착할 것이다"라고 말했다.

윌리엄스는 AI 시스템이 의도한 대로 동작하는지 확인하기 위한 노력이 더 많이 쓰여져야 할 것이라고 덧붙였다.

그녀는 "AI가 실제로 유능하다는 것을 모니터링하고 확실히 하자. 우리가 해야 할 작업은 그것이다. 그저 인간을 '고리'에 넣어서는 안된다. 인간의 허약한 지성과 편견을 판단의 고리에 넣는 것에 불과하다. 인간은 고리로부터 나와야 한다"라고 말했다.

윌리엄스는 이어 "인간이 일정 책임을 가져가야 한다는 생각은 내가 보기엔 그저 넌센스일 뿐이다"라고 덧붙였다. ciokr@idg.co.kr 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.