2018.05.14

"구글 듀플렉스, 자신이 로봇임을 밝혀야 한다" UNSW AI 전문가

Byron Connolly | CIO Australia
대화하는 상대방이 인공지능 로봇일 수 있다. 앞으로는 더 빈번해질 것이 확실하다. 기계와 대화할 때 이를 미리 알 권리가 있을까?

뉴사우스웨일즈 대학(UNSW)의 한 AI 전문가는 구글 듀플렉스(Duplex)에 대한 윤리적 우려를 제시했다. 그는 AI 기술이 대화에 앞서 스스로에 대해 로봇임을 밝혀야 한다고 주장했다.

이 대학의 AI 전문가이자 SEIT 교수인 후세인 아바스는 구글의 듀플렉스 AI 시연이 중요한 질문을 제기했다고 지적했다.

구글의 순다 피차이 수석 부사장이 진행한 듀플렉스 시연에서는 AI 툴이 미용사에서 전화를 걸어 이발을 예약했었다. 이 시연에서 듀플렉스는 시리나 알렉와 같은 다른 AI 비서와 달리 '음', '으흠'과 같은 소리를 내면서 마치 인간처럼 대화했다.

아바스 교수는 UNSW의 학보에서 "AI가 자신의 정체를 밝혀야 한다는 것이 핵심이다. 구글 영상에서 AI 듀플렉스는 클라이언트를 대신해 통화하고 있다고 밝혔다. 상대편인 인간은 듀플렉스에게 정체를 밝히라고 요구하지 않았다. AI가 인간을 사칭한다면 분명히 속임수의 여지가 있으며 AI가 비윤적으로 행동할 수 있다"라고 말했다.

그는 이어 "AI 듀를렉스가 자동화 로봇임을 스스로 밝힌다면 이후 대화를 계속할지 여부를 결정하는 것인 인간의 몫이다"라고 덧붙였다.

아바스 교수에 따르면 구글 듀플렉스는 사람의 음성 신호를 수집해 훈련됐으며, 자체 음성 또한 한 명 이상의 인간 목소리를 합성한 것으로 관측된다.

그는 "이들 사람들 또한 자신의 데이터가 어떻게 사용되는지 더 잘 알고 있어야 한다. 또 데이터 수집과 사용 목적에 대해 동의를 제공할 필요가 있다"라고 말했다.

UNSW의 기사에서는 또 "듀플렉스가 미용사와 약속할 수 있다면 비상 상황에서의 통화 또한 가능하다고 생각할 수 있지 않을까?"라는 질문을 제시했다.

아바스는 이러한 상황에는 장점과 단점이 모두 존재한다고 진단했다. 그는 "차량 보조 기술은 비상 사태의 경우 구급차를 부를 수 있을 것이다. 생명을 구할 수도 있는 활용례다. 그러나 오용되면 불법적인 행위가 될 수 있다"라고 말했다. ciokr@idg.co.kr 



2018.05.14

"구글 듀플렉스, 자신이 로봇임을 밝혀야 한다" UNSW AI 전문가

Byron Connolly | CIO Australia
대화하는 상대방이 인공지능 로봇일 수 있다. 앞으로는 더 빈번해질 것이 확실하다. 기계와 대화할 때 이를 미리 알 권리가 있을까?

뉴사우스웨일즈 대학(UNSW)의 한 AI 전문가는 구글 듀플렉스(Duplex)에 대한 윤리적 우려를 제시했다. 그는 AI 기술이 대화에 앞서 스스로에 대해 로봇임을 밝혀야 한다고 주장했다.

이 대학의 AI 전문가이자 SEIT 교수인 후세인 아바스는 구글의 듀플렉스 AI 시연이 중요한 질문을 제기했다고 지적했다.

구글의 순다 피차이 수석 부사장이 진행한 듀플렉스 시연에서는 AI 툴이 미용사에서 전화를 걸어 이발을 예약했었다. 이 시연에서 듀플렉스는 시리나 알렉와 같은 다른 AI 비서와 달리 '음', '으흠'과 같은 소리를 내면서 마치 인간처럼 대화했다.

아바스 교수는 UNSW의 학보에서 "AI가 자신의 정체를 밝혀야 한다는 것이 핵심이다. 구글 영상에서 AI 듀플렉스는 클라이언트를 대신해 통화하고 있다고 밝혔다. 상대편인 인간은 듀플렉스에게 정체를 밝히라고 요구하지 않았다. AI가 인간을 사칭한다면 분명히 속임수의 여지가 있으며 AI가 비윤적으로 행동할 수 있다"라고 말했다.

그는 이어 "AI 듀를렉스가 자동화 로봇임을 스스로 밝힌다면 이후 대화를 계속할지 여부를 결정하는 것인 인간의 몫이다"라고 덧붙였다.

아바스 교수에 따르면 구글 듀플렉스는 사람의 음성 신호를 수집해 훈련됐으며, 자체 음성 또한 한 명 이상의 인간 목소리를 합성한 것으로 관측된다.

그는 "이들 사람들 또한 자신의 데이터가 어떻게 사용되는지 더 잘 알고 있어야 한다. 또 데이터 수집과 사용 목적에 대해 동의를 제공할 필요가 있다"라고 말했다.

UNSW의 기사에서는 또 "듀플렉스가 미용사와 약속할 수 있다면 비상 상황에서의 통화 또한 가능하다고 생각할 수 있지 않을까?"라는 질문을 제시했다.

아바스는 이러한 상황에는 장점과 단점이 모두 존재한다고 진단했다. 그는 "차량 보조 기술은 비상 사태의 경우 구급차를 부를 수 있을 것이다. 생명을 구할 수도 있는 활용례다. 그러나 오용되면 불법적인 행위가 될 수 있다"라고 말했다. ciokr@idg.co.kr 

X