2018.07.31

"인간은 AI 판단 고리에서 빠져야 한다" UTS 로보틱스 교수

George Nott | CIO Australia
인간이 인공지능 시스템의 '고리로부터 벗어나야 한다'라고 UTS 로보틱스 교수 마리-앤 윌리엄스가 시드니에서 열린 호주 인권위원회 기술 컨퍼런스에서 주장했다.

인공지능 센터 산하 매직 랩(Magic Lab) 소장인 윌리엄스 교수는 심지어 삶과 죽음을 결정하는 결정을 내릴 때에도 AI가 피와 살을 가진 인간과 상의할 필요가 없다고 제시했다. 인공지능 자율 무기에 대한 우려가 제기되고 있는 가운데, 상반되는 의견을 제시한 셈이다.

킬러 로봇 중지 캠페인(Campaign to Killer Robots)은 "국가는 인간의 생명을 앗아 가겠다는 결정이 결코 기계에 위임되지 않도록 보장함으로써 무기 시스템의 통제되지 않은 자율성을 상쇄해야한다"라고 주장한 바 있다.

호주에서도 122명의 인공지능 전문가들이 '의미있는 인간 통제'를 도외시한 무기 체계에 대해 "확고한 세계적인 입장을 취하라고 말콤 탁불 총리에게 촉구한 바 있다.

윌리엄스 교수는 그러나 이에 대해 "넌센스"라고 표현했다. 그녀는 "이러한 골든 룰은 오히려 위험하다. 테디베어나 안전담요와 같이 그저 붙잡고 있을 뿐이다. 만약 AI가 살상을 위해 쏘라고 판단한다면, 쏘지 않을 것이라고 응답할 수 있을까? 허울을 빨리 던져버릴 수록 오히려 살만한 가치 있는 미래를 건설할 기회를 더 많이 포착할 것이다"라고 말했다.

윌리엄스는 AI 시스템이 의도한 대로 동작하는지 확인하기 위한 노력이 더 많이 쓰여져야 할 것이라고 덧붙였다.

그녀는 "AI가 실제로 유능하다는 것을 모니터링하고 확실히 하자. 우리가 해야 할 작업은 그것이다. 그저 인간을 '고리'에 넣어서는 안된다. 인간의 허약한 지성과 편견을 판단의 고리에 넣는 것에 불과하다. 인간은 고리로부터 나와야 한다"라고 말했다.

윌리엄스는 이어 "인간이 일정 책임을 가져가야 한다는 생각은 내가 보기엔 그저 넌센스일 뿐이다"라고 덧붙였다. ciokr@idg.co.kr 



2018.07.31

"인간은 AI 판단 고리에서 빠져야 한다" UTS 로보틱스 교수

George Nott | CIO Australia
인간이 인공지능 시스템의 '고리로부터 벗어나야 한다'라고 UTS 로보틱스 교수 마리-앤 윌리엄스가 시드니에서 열린 호주 인권위원회 기술 컨퍼런스에서 주장했다.

인공지능 센터 산하 매직 랩(Magic Lab) 소장인 윌리엄스 교수는 심지어 삶과 죽음을 결정하는 결정을 내릴 때에도 AI가 피와 살을 가진 인간과 상의할 필요가 없다고 제시했다. 인공지능 자율 무기에 대한 우려가 제기되고 있는 가운데, 상반되는 의견을 제시한 셈이다.

킬러 로봇 중지 캠페인(Campaign to Killer Robots)은 "국가는 인간의 생명을 앗아 가겠다는 결정이 결코 기계에 위임되지 않도록 보장함으로써 무기 시스템의 통제되지 않은 자율성을 상쇄해야한다"라고 주장한 바 있다.

호주에서도 122명의 인공지능 전문가들이 '의미있는 인간 통제'를 도외시한 무기 체계에 대해 "확고한 세계적인 입장을 취하라고 말콤 탁불 총리에게 촉구한 바 있다.

윌리엄스 교수는 그러나 이에 대해 "넌센스"라고 표현했다. 그녀는 "이러한 골든 룰은 오히려 위험하다. 테디베어나 안전담요와 같이 그저 붙잡고 있을 뿐이다. 만약 AI가 살상을 위해 쏘라고 판단한다면, 쏘지 않을 것이라고 응답할 수 있을까? 허울을 빨리 던져버릴 수록 오히려 살만한 가치 있는 미래를 건설할 기회를 더 많이 포착할 것이다"라고 말했다.

윌리엄스는 AI 시스템이 의도한 대로 동작하는지 확인하기 위한 노력이 더 많이 쓰여져야 할 것이라고 덧붙였다.

그녀는 "AI가 실제로 유능하다는 것을 모니터링하고 확실히 하자. 우리가 해야 할 작업은 그것이다. 그저 인간을 '고리'에 넣어서는 안된다. 인간의 허약한 지성과 편견을 판단의 고리에 넣는 것에 불과하다. 인간은 고리로부터 나와야 한다"라고 말했다.

윌리엄스는 이어 "인간이 일정 책임을 가져가야 한다는 생각은 내가 보기엔 그저 넌센스일 뿐이다"라고 덧붙였다. ciokr@idg.co.kr 

X