2019.04.23

칼럼 | 페이스북의 가상비서, '신뢰'가 가능한가?

Mike Elgan | Computerworld
페이스북이 자사의 세 번째 가상비서를 개발하고 있다. 규모를 생각하면 그리 놀랄 만한 일이 아니다. 시가 총액 기준 세계 8대 기업 목록 중 7곳은 가상비서 분야 주요 기업과 겹친다. 마이크로소프트, 애플, 아마존, 알파벳(구글), 페이스북, 알리바바, 텐센트 등이다. 

페이스북은 세계에서 손꼽히는 AI 연구소를 운영하고 있기도 하다. 이 회사에 R&D에 쓰는 투자액은 연간 80억 달러에 이른다. 이미 오랫 동안 AI 가상비서에 대해 연구해왔으며 언젠가는 기업 방화벽 안쪽으로 침투할 방안을 강구해낼 가능성이 높다.

그러나 그럴 수 있을까? 그래도 될까?

M 실험
약 1년 전 페이스북은 '페이스북 M'이라는 실험적 제품의 중단을 발표했다. 페이스북 M은 미 캘리포니아 지역의 주민 약 2,000명에게 메신저 플랫폼을 통해 약 2년 반 동안 서비스된 가상비서였다. 

페이스북 M의 특징 중 하나는 AI에 더해 인간의 손길이 더해졌다는 것이다. AI가 처리할 수 없는 질문에 대해서는 인간 팀원이 개입했다. 또 메신저 내 채팅을 모니터링(도청)하고 감상할 영화나 화상통화할 사람을 제안하는 기능도 가지고 있었다. 회의 알람을 생성하고 미팅 약속을 만들거나 우버(또는 리프트)를 예약하는 것도 가능했다. 

즉 M은 메신저에서 오고가는 모든 단어를 지속적으로 감시(?)하고 제안하는 기능을 특징으로 했다. 

M 서비스를 폐쇄한 후 페이스북은 감시의 대상을 바꿨다. 키보드로 입력한 단어를 모니터링하는 것에서 음성으로 발화되는 단어를 모니터링하는 것이다. '페이스북 포탈'이라는 스마트 디스플레이다.

그리고 이번 주 CNBC를 비롯한 일련의 미디어는 페이스북이 세 번째 가상비서를 개발하고 있다고 보도했다

페이스북은 아마존 알렉사나 구글 어시스턴트와 같은 다목적 플랫폼이 아닌 자체 하드웨어 동작하는 비서를 개발한다는 점에서 다소 다르다. 그리고 이는 새로운 지적을 야기시키고 있다. 페이스북이 제어하는 '마이크'가 사무실에 존재하는 위험성에 대한 것이다. 

페이스북을 신뢰할 수 있는가?
페이스북에 대한 신뢰에 의문을 가지게 하는 스캔들이 매월 터지는 양상이다. 이번 달에는 페이스북 신규 가입자가 이메일 비밀번호를 요청하면 사용자의 허가 없이 이메일 계정과 연결된 이메일 연락처까지 복사해 전송하는 문제가 일어났다.

페이스북은 "사용자의 주소록을 의도치 않게 업로드"했다고 주장했다. 또 자사는 암호를 보관하지 않고 해당 데이터를 삭제했다고 밝혔다. 그러나 사용자의 소셜 관계에 대한 데이터를 보유하고 있는지에 대해서는 언급하지 않았다. 이는 사용자 관계 정보를 훔치는 의도로 해석될 수 있다. 

페이스북은 또 이번 피해자가 150만 명 정도임을 언급하며 그리 큰 문제가 아님을 시사하려 시도했다. 그러나 도난당한 정보는 150만 명에 그치지 않는다. 사용자 당 100명의 연락처로 가정하면(겹치는 이가 없는 경우) 1억 5,000만 명에 이를 수도 있는 규모다. 실제로 페이스북은 얼마나 많은 이들이 영향 받았는지에 대해 밝히지 않았다. 

페이스북의 의도를 예단할 수는 없다. 악의적인 행동이었는지, 아니면 무능한 해프닝이었는지 모른다. 그러나 페이스북을 신뢰하기 어렵다는 결론은 마찬가지다. 

일렉트로닉 프론티어 재단(EFF)는 페이스북이 범죄 해킹 조직처럼 행동했다고 표현했다. EFF는 이번 사건에 대한 공식 논평에서 "의도와 목적을 감안할 때 이것은 피싱 공격이다"라고 말했다. 

설령 관대하게 해석할지라도 페이스북이 최소한의 관행조차도 무시했다는 점은 분명하다. 나쁜 소식은 이 뿐만이 아니다. 

페이스북 방어 논리의 하나는 사용자가 이메일 암호를 공유하지 않도록 선택할 수 있다는 점이다. 이메일이나 전화 번호를 통해서도 검증할 수 있다고 페이스북은 주장한다. 그러나 이는 '도움이 필요하십니까?'라는 버튼을 선택해야만 이 옵션에 접근할 수 있다. 다크 패턴(dark pattern) 디자인의 전형적인 사례다. 

전화 옵션에도 문제가 있다. 지난해 페이스북은 사용자 동의 없이 광고를 위한 검증 목적으로 전화번호를 수집해 물의를 일으킨 바 있다. 

이와 같은 페이스북 스캔들의 공통점은 개인 데이터의 무분별한 처리다. 지난달 페이스북은 수억 명의 페이스북 사용자와 수만 명의 인스타그램 사용자 패스워드를 페이스북 서버에 저장하고 있다고 인정했다. 수천 명의 페이스북 직원들이 쉽게 읽을 수 형식이었다는 점에서 문제가 됐다. 그리고 해당 포스트를 조용히 수정했는데, 영향 받은 인스타그램의 수가 수천에서 수백만으로 바뀌어 있었다. 페이스북은 '몇 백만'인지에 대해서는 언급하지 않았다. 

또 다른 보도에 따르면 2명의 서드파티 페이스북 앱 개발자가 "광대한" 페이스북 사용자 데이터를 아마존 클라우드 서버에 저장했다. 이 데이터에는 페이스북 사용자 비밀번호와 활동이 포함돼 있었다. 

페이스북은 부정직한가?
좀더 최근의 보도는 페이스북 CEO 마크 저커버그가 페이스북 이용자 데이터를 이용해 친구에게 보상하고 적을 처벌했다는 내용을 담고 있다. 또 저커버그와 다른 간부들이 수년 간 사용자 데이터를 판매할 계획에 대해 논의했다고 전하고 있다. 사용자 프라이버시에 대한 페이스북의 대외 성명과 실제 행동이 달랐음을 보여주는 보도다. 

이번 달에는 페이스북 계정을 비화할성화했을지라도 페이스북이 사용자를 계속 추적한다는 사실이 폭로됐다. 이러한 관행은 회사의 데이터 정책에 언급되지 않은 것이다. 이 밖에도 사용자가 제공하지 않은 정보(섀도우 프로필)을 페이스북이 보관하고 페이스북에서 로그아웃한 사용자를 추적하며, 심지어 계정을 등록한 적이 없는 이들까지도 추적한다는 보도가 과거에 있었다. 사실 이번 칼럼에서 일일이 다룰 수 없을 정도다. 

가상비서는 신뢰를 필요로 한다
스마트 스피커, 스마트 디스플레이에 내장되는 가상비서와 관련해 '신뢰'에 중요성에 대해 분명히 할 필요가 있겠다. 

오늘날 스마트폰에는 마이크가 내장돼 있다. 그러나 모바일 OS 공급사는 내장 마이크 사용에 대해 엄격히 제한하고 있다. 만약 허락되지 않는 사용이 내외부 팀에 의해 발견된다면 해당 앱은 중단될 가능성이 높다. 

그러나 아마존, 구글, 페이스북에서 직접 판매하는 스마트 기기는 일종의 '블랙 박스'이며 센서의 남용을 막는 신뢰할 만한 중간 조직이 없다. 이러한 장치에 설치된 마이크가 어떤 상황에서 언제, 어떤 시점에서, 어떤 상황에서 작동하는지, 녹음 내용이 어떻게되는지, 데이터가 처리되거나 사용되는 방법을 아는 것은 거의 불가능하다. 

오늘날의 기술이 아니라 내일의 기술인 것도 감안해야 한다. 앞으로 10년 정도면 페이스북과 같은 회사는 수백 만 개의 마이크에서 오디오를 끊김 없이 녹음하고 그 데이터를 의미 있고 개인 정보를 침해하는 거대한 정보 데이터베이스로 처리할 수 있는 역량을 가지게 될 것이다. 

이것이 페이스북의 혁명에 우리가 참여하지 않아야 할 이유다. 반복적인 사용자 프라이버시 침해, 악의적인, 혹은 범죄적인 행위가 발생한 기업이기에 더욱 그럴 것이다. 페이스북은 믿을 만한 존재가 아니다. 

* Mike Elgan은 기술 및 기술 문화에 대해 저술하는 전문 기고가다. ciokr@idg.co.kr



2019.04.23

칼럼 | 페이스북의 가상비서, '신뢰'가 가능한가?

Mike Elgan | Computerworld
페이스북이 자사의 세 번째 가상비서를 개발하고 있다. 규모를 생각하면 그리 놀랄 만한 일이 아니다. 시가 총액 기준 세계 8대 기업 목록 중 7곳은 가상비서 분야 주요 기업과 겹친다. 마이크로소프트, 애플, 아마존, 알파벳(구글), 페이스북, 알리바바, 텐센트 등이다. 

페이스북은 세계에서 손꼽히는 AI 연구소를 운영하고 있기도 하다. 이 회사에 R&D에 쓰는 투자액은 연간 80억 달러에 이른다. 이미 오랫 동안 AI 가상비서에 대해 연구해왔으며 언젠가는 기업 방화벽 안쪽으로 침투할 방안을 강구해낼 가능성이 높다.

그러나 그럴 수 있을까? 그래도 될까?

M 실험
약 1년 전 페이스북은 '페이스북 M'이라는 실험적 제품의 중단을 발표했다. 페이스북 M은 미 캘리포니아 지역의 주민 약 2,000명에게 메신저 플랫폼을 통해 약 2년 반 동안 서비스된 가상비서였다. 

페이스북 M의 특징 중 하나는 AI에 더해 인간의 손길이 더해졌다는 것이다. AI가 처리할 수 없는 질문에 대해서는 인간 팀원이 개입했다. 또 메신저 내 채팅을 모니터링(도청)하고 감상할 영화나 화상통화할 사람을 제안하는 기능도 가지고 있었다. 회의 알람을 생성하고 미팅 약속을 만들거나 우버(또는 리프트)를 예약하는 것도 가능했다. 

즉 M은 메신저에서 오고가는 모든 단어를 지속적으로 감시(?)하고 제안하는 기능을 특징으로 했다. 

M 서비스를 폐쇄한 후 페이스북은 감시의 대상을 바꿨다. 키보드로 입력한 단어를 모니터링하는 것에서 음성으로 발화되는 단어를 모니터링하는 것이다. '페이스북 포탈'이라는 스마트 디스플레이다.

그리고 이번 주 CNBC를 비롯한 일련의 미디어는 페이스북이 세 번째 가상비서를 개발하고 있다고 보도했다

페이스북은 아마존 알렉사나 구글 어시스턴트와 같은 다목적 플랫폼이 아닌 자체 하드웨어 동작하는 비서를 개발한다는 점에서 다소 다르다. 그리고 이는 새로운 지적을 야기시키고 있다. 페이스북이 제어하는 '마이크'가 사무실에 존재하는 위험성에 대한 것이다. 

페이스북을 신뢰할 수 있는가?
페이스북에 대한 신뢰에 의문을 가지게 하는 스캔들이 매월 터지는 양상이다. 이번 달에는 페이스북 신규 가입자가 이메일 비밀번호를 요청하면 사용자의 허가 없이 이메일 계정과 연결된 이메일 연락처까지 복사해 전송하는 문제가 일어났다.

페이스북은 "사용자의 주소록을 의도치 않게 업로드"했다고 주장했다. 또 자사는 암호를 보관하지 않고 해당 데이터를 삭제했다고 밝혔다. 그러나 사용자의 소셜 관계에 대한 데이터를 보유하고 있는지에 대해서는 언급하지 않았다. 이는 사용자 관계 정보를 훔치는 의도로 해석될 수 있다. 

페이스북은 또 이번 피해자가 150만 명 정도임을 언급하며 그리 큰 문제가 아님을 시사하려 시도했다. 그러나 도난당한 정보는 150만 명에 그치지 않는다. 사용자 당 100명의 연락처로 가정하면(겹치는 이가 없는 경우) 1억 5,000만 명에 이를 수도 있는 규모다. 실제로 페이스북은 얼마나 많은 이들이 영향 받았는지에 대해 밝히지 않았다. 

페이스북의 의도를 예단할 수는 없다. 악의적인 행동이었는지, 아니면 무능한 해프닝이었는지 모른다. 그러나 페이스북을 신뢰하기 어렵다는 결론은 마찬가지다. 

일렉트로닉 프론티어 재단(EFF)는 페이스북이 범죄 해킹 조직처럼 행동했다고 표현했다. EFF는 이번 사건에 대한 공식 논평에서 "의도와 목적을 감안할 때 이것은 피싱 공격이다"라고 말했다. 

설령 관대하게 해석할지라도 페이스북이 최소한의 관행조차도 무시했다는 점은 분명하다. 나쁜 소식은 이 뿐만이 아니다. 

페이스북 방어 논리의 하나는 사용자가 이메일 암호를 공유하지 않도록 선택할 수 있다는 점이다. 이메일이나 전화 번호를 통해서도 검증할 수 있다고 페이스북은 주장한다. 그러나 이는 '도움이 필요하십니까?'라는 버튼을 선택해야만 이 옵션에 접근할 수 있다. 다크 패턴(dark pattern) 디자인의 전형적인 사례다. 

전화 옵션에도 문제가 있다. 지난해 페이스북은 사용자 동의 없이 광고를 위한 검증 목적으로 전화번호를 수집해 물의를 일으킨 바 있다. 

이와 같은 페이스북 스캔들의 공통점은 개인 데이터의 무분별한 처리다. 지난달 페이스북은 수억 명의 페이스북 사용자와 수만 명의 인스타그램 사용자 패스워드를 페이스북 서버에 저장하고 있다고 인정했다. 수천 명의 페이스북 직원들이 쉽게 읽을 수 형식이었다는 점에서 문제가 됐다. 그리고 해당 포스트를 조용히 수정했는데, 영향 받은 인스타그램의 수가 수천에서 수백만으로 바뀌어 있었다. 페이스북은 '몇 백만'인지에 대해서는 언급하지 않았다. 

또 다른 보도에 따르면 2명의 서드파티 페이스북 앱 개발자가 "광대한" 페이스북 사용자 데이터를 아마존 클라우드 서버에 저장했다. 이 데이터에는 페이스북 사용자 비밀번호와 활동이 포함돼 있었다. 

페이스북은 부정직한가?
좀더 최근의 보도는 페이스북 CEO 마크 저커버그가 페이스북 이용자 데이터를 이용해 친구에게 보상하고 적을 처벌했다는 내용을 담고 있다. 또 저커버그와 다른 간부들이 수년 간 사용자 데이터를 판매할 계획에 대해 논의했다고 전하고 있다. 사용자 프라이버시에 대한 페이스북의 대외 성명과 실제 행동이 달랐음을 보여주는 보도다. 

이번 달에는 페이스북 계정을 비화할성화했을지라도 페이스북이 사용자를 계속 추적한다는 사실이 폭로됐다. 이러한 관행은 회사의 데이터 정책에 언급되지 않은 것이다. 이 밖에도 사용자가 제공하지 않은 정보(섀도우 프로필)을 페이스북이 보관하고 페이스북에서 로그아웃한 사용자를 추적하며, 심지어 계정을 등록한 적이 없는 이들까지도 추적한다는 보도가 과거에 있었다. 사실 이번 칼럼에서 일일이 다룰 수 없을 정도다. 

가상비서는 신뢰를 필요로 한다
스마트 스피커, 스마트 디스플레이에 내장되는 가상비서와 관련해 '신뢰'에 중요성에 대해 분명히 할 필요가 있겠다. 

오늘날 스마트폰에는 마이크가 내장돼 있다. 그러나 모바일 OS 공급사는 내장 마이크 사용에 대해 엄격히 제한하고 있다. 만약 허락되지 않는 사용이 내외부 팀에 의해 발견된다면 해당 앱은 중단될 가능성이 높다. 

그러나 아마존, 구글, 페이스북에서 직접 판매하는 스마트 기기는 일종의 '블랙 박스'이며 센서의 남용을 막는 신뢰할 만한 중간 조직이 없다. 이러한 장치에 설치된 마이크가 어떤 상황에서 언제, 어떤 시점에서, 어떤 상황에서 작동하는지, 녹음 내용이 어떻게되는지, 데이터가 처리되거나 사용되는 방법을 아는 것은 거의 불가능하다. 

오늘날의 기술이 아니라 내일의 기술인 것도 감안해야 한다. 앞으로 10년 정도면 페이스북과 같은 회사는 수백 만 개의 마이크에서 오디오를 끊김 없이 녹음하고 그 데이터를 의미 있고 개인 정보를 침해하는 거대한 정보 데이터베이스로 처리할 수 있는 역량을 가지게 될 것이다. 

이것이 페이스북의 혁명에 우리가 참여하지 않아야 할 이유다. 반복적인 사용자 프라이버시 침해, 악의적인, 혹은 범죄적인 행위가 발생한 기업이기에 더욱 그럴 것이다. 페이스북은 믿을 만한 존재가 아니다. 

* Mike Elgan은 기술 및 기술 문화에 대해 저술하는 전문 기고가다. ciokr@idg.co.kr

X