Offcanvas

AI / 로봇|자동화 / 리더십|조직관리

"구글 듀플렉스, 자신이 로봇임을 밝혀야 한다" UNSW AI 전문가

2018.05.14 Byron Connolly  |  CIO Australia
대화하는 상대방이 인공지능 로봇일 수 있다. 앞으로는 더 빈번해질 것이 확실하다. 기계와 대화할 때 이를 미리 알 권리가 있을까?

뉴사우스웨일즈 대학(UNSW)의 한 AI 전문가는 구글 듀플렉스(Duplex)에 대한 윤리적 우려를 제시했다. 그는 AI 기술이 대화에 앞서 스스로에 대해 로봇임을 밝혀야 한다고 주장했다.

이 대학의 AI 전문가이자 SEIT 교수인 후세인 아바스는 구글의 듀플렉스 AI 시연이 중요한 질문을 제기했다고 지적했다.

구글의 순다 피차이 수석 부사장이 진행한 듀플렉스 시연에서는 AI 툴이 미용사에서 전화를 걸어 이발을 예약했었다. 이 시연에서 듀플렉스는 시리나 알렉와 같은 다른 AI 비서와 달리 '음', '으흠'과 같은 소리를 내면서 마치 인간처럼 대화했다.

아바스 교수는 UNSW의 학보에서 "AI가 자신의 정체를 밝혀야 한다는 것이 핵심이다. 구글 영상에서 AI 듀플렉스는 클라이언트를 대신해 통화하고 있다고 밝혔다. 상대편인 인간은 듀플렉스에게 정체를 밝히라고 요구하지 않았다. AI가 인간을 사칭한다면 분명히 속임수의 여지가 있으며 AI가 비윤적으로 행동할 수 있다"라고 말했다.

그는 이어 "AI 듀를렉스가 자동화 로봇임을 스스로 밝힌다면 이후 대화를 계속할지 여부를 결정하는 것인 인간의 몫이다"라고 덧붙였다.

아바스 교수에 따르면 구글 듀플렉스는 사람의 음성 신호를 수집해 훈련됐으며, 자체 음성 또한 한 명 이상의 인간 목소리를 합성한 것으로 관측된다.

그는 "이들 사람들 또한 자신의 데이터가 어떻게 사용되는지 더 잘 알고 있어야 한다. 또 데이터 수집과 사용 목적에 대해 동의를 제공할 필요가 있다"라고 말했다.

UNSW의 기사에서는 또 "듀플렉스가 미용사와 약속할 수 있다면 비상 상황에서의 통화 또한 가능하다고 생각할 수 있지 않을까?"라는 질문을 제시했다.

아바스는 이러한 상황에는 장점과 단점이 모두 존재한다고 진단했다. 그는 "차량 보조 기술은 비상 사태의 경우 구급차를 부를 수 있을 것이다. 생명을 구할 수도 있는 활용례다. 그러나 오용되면 불법적인 행위가 될 수 있다"라고 말했다. ciokr@idg.co.kr 
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.