2019.05.23

'사악해져도 된다, 우리는...' 기술 악용·부작용 사례 6선

Thomas Macaulay | Techworld
기술이 늘 긍정적인 것은 아니다. 때로는 일찌기 없었던 부작용을 낳고 새로운 악용 가능성을 낳는다. 여기 기술 분야의 거대 기업과 스타트업들이 기술을 사악하게 활용하는, 또는 결과적으로 나쁜 결과를 낳은 사례들을 정리했다. 

1. 페이스북 - 미얀마 대량 학살 촉발
'빠르게 움직여 깨뜨린다'는 페이스북의 철학은 단기간에 거대 광고 기업으로 성장하는데 도움이 됐지만, 예상치 못한 결과도 초래했다. 

이 소셜 네트워크는 스리랑카 극단주의자들의 반 무슬림 폭력 사태를 촉발시켰고, 케임브리지 애널리티카(CA)가 영국의 EU 탈퇴 국민 투표와 미국 대통령 선거에 영향을 주는 토대를 마련했다. 또 미얀마의 강경 민족주의자들이 로힝야족을 학살하는 계기를 촉발시키기도 했다. UN이 '인종 청소의 교과서적 사례'라고 부르는 그 사건이다. 

페이스북 제품 관리 담당 부사장 아담 모서리는 슬레이트(Slate) 팟캐스트 이프 덴에서 이 학살 사건이 페이스북의 근본적 지향점에 의문을 제기했다고 말했다. 그는 "세계를 연결한다는 것이 늘 좋은 결과를 초래하지는 않는다"라고 결국 인정했다.



2. 스피너 - 사랑하는 이를 조종하기
소비자, 유권자를 대상으로 한 타깃 광고의 위력은 이미 널리 알려져 있다. 그러나 런던에 소재한 스피너라는 스타트업은 누구나 친구, 지인, 가족을 조종할 수 있는 서비스를 제공한다. 29달러만 내면 스피너가 웹 사이트의 콘텐츠를 제어해 무의식적으로 영향을 주는 것이다. 가령 고객이 파트너와의 성관계를 원하는 경우라면, '당신이 섹스를 해야 하는 5가지 이유'와 같은 기사 10건을 파트너에게 180회 노출시키는 패키지를 구매할 수 있다. 

그러면 스피너는 타깃에게 해당 쿠키를 활성화하는 링크가 내제된 무해해보이는 텍스트를 발송한다. 타깃이 링크를 클릭하면 이러한 메시지가 포함된 기사 및 미디어에 전략적으로 노출되게 된다. 스피너 고객은 또 파트너에게 영향을 줄 수 있도록 고안된 캠페인을 구매할 수도 있다(그러나 인기는 그리 많지 않다).

스피너의 마케팅 및 소셜 책임자인 엘리엇 셰플러는 FT와의 인터뷰에서 "대부분 남성이 고객이다. 그리고 그들 대부분은 성관계 촉발 패키지를 원한다. 수요와 공급 사례다"라고 말했다. 



3. IBM - 인종 감지하는 경찰용 안면 인식 시스템 개발
2018년 IBM이 시민 운동가들의 분노를 촉발시켰다.  더 인터셉트(The Intercept)에 따르면 이 회사는 뉴욕 경찰과 협력하여 당국이 피부색, 성별, 연령, 머리카락 색, 피부 색 등을 기준으로 사람들을 검색하는 데 사용할 수 있는 안면 인식 시스템을 구축했기 때문이다.

이는 IBM이 과거 나찌에게 수백 만 명의 사람을 수용소로 이송하는데 도움을 주는 기술을 제공했었다는 점에서 그리 놀라운 일이 아니다. 사실 IBM은 사법 당국에게 안면 인식 기술을 제공하는 유일한 기술 기업도 아니다. 

일례로 아마존은 2곳의 미국 주 당국에 안면 인식 시스템을 공급한 바 있으며 이미 및 세무 기관에도 판매한 바 있다. 영국에서도 여러 경찰 기관이 유사한 기술을 시범 테스트했다. 한 곳은 카메라를 지날 때 얼굴을 가린 시민에게 90유로의 벌금을 부과하기도 했다. 

빅 브라더 워치(Big Brother Watch)의 실키 카를로 디렉터는 경찰이 안면 인식 기술을 사용할 법적 근거가 없다며 "영국의 600만 대에 이르는 거대 CCTV 네트워크에서 생생할 얼굴 인식 기능을 사용할 수 있다는 점에 궁극적인 두려움을 느낀다"라고 BBC와의 인터뷰에서 말했다. 

4. 아마존 - 자동화된 직원 감시
아마존은 직원을 로봇처럼 대한다는 비난을 종종 받는 기업이다. 이 거대 기업의 감시를 다룬 최근 보고서에 따르면 이러한 의혹은 사실에 가깝다. 

지난 4월 더 버지는 아마존이 자동 추적 및 종료 시스템을 사용하여 직원을 평가한다고 보도했다. 이 미디어에 입수해 보도한 편지에 따르면 아마존 측 변호사는 해당 시스템이 "각 직원의 생산성 비율을 추적"하고 "관리자로부터 입력없이도 품질이나 생산성에 관한 경고 또는 종료를 자동으로 생성한다"라고 기술했다. 

아마존은 이 밖에도 다양한 물류 관리 도구를 개발하고 있다. 작년에는 직원의 위치와 움직임을 추적하고 바르게 작업을 완료하지 못하면 경고를 발하는 팔찌에 대한 특허를 획득했다. 로컬 셀프 릴라인어스 공동 디렉터 스테이시 미셸은 "아마존 직원들은 로봇에 의해 감시 및 감독됐다"라고 버지와의 인터뷰에서 말했다. 

5. 우버 - 이익을 위해 시위 지역에 급증한 이용료 책정
각종 스캔들을 일으키고 있는 우버의 평판은 2017년 1월 바닥까지 추락했다. 트럼프 미 대통령의 무슬림 여행 금지 조치에 대한 뉴욕 택시 기사들의 파업이 발생한 가운데, 우버가 이익 극대화를 위해 이용료를 급증시켰기 때문이다. 이로 인해 '#DeleteUber' 캠페인지 벌어지기도 했다. 

이 회사는 또 기자, 정치인, 유명인, 우버 직원의 여행을 'God View' 도구를 이용해 추적한 것으로 알려졌으며, 'Hell' 프로그램을 통해 경쟁사 리프트 운전 기사의 가용성 및 가격을 모니터링 한 것으로 전해졌다. 

6. 구글 - 글로벌 감시 시스템 구축
구글이 작년 회사의 강령에서 '사악해지지 말라'라는 슬로건을 조용히 삭제한 이후 개인 정보 운동가들이 구글에 대한 비난의 목소리를 높이고 있다. 

이들의 주요 관심사는 이 검색 엔진 거물의 진화에 집중되어 있다. 구글은 타깃 광고를 위한 데이터 수집을 개척한 이후 구글 맵스에 입력된 위치에서 구글 어시스턴트의 음성 명령에 이르기까지 사용자 정보를 수집 할 수있는 새로운 방법을 지속적으로 찾고 있다

최근에는 가정 보안 및 경보 시스템인 네스트 시큐어에 사용자에게 알리지 않고 마이크를 설치했다. 구글 대변인은 비즈니스 인사이더와의 인터뷰에서 "온 디바이스 마이크는 결코 비밀이 아니다. 기술 사양에 등재돼 있었어야 했다. 우리 측 실수일 따름이다"라고 말했다. ciokr@idg.co.kr
 



2019.05.23

'사악해져도 된다, 우리는...' 기술 악용·부작용 사례 6선

Thomas Macaulay | Techworld
기술이 늘 긍정적인 것은 아니다. 때로는 일찌기 없었던 부작용을 낳고 새로운 악용 가능성을 낳는다. 여기 기술 분야의 거대 기업과 스타트업들이 기술을 사악하게 활용하는, 또는 결과적으로 나쁜 결과를 낳은 사례들을 정리했다. 

1. 페이스북 - 미얀마 대량 학살 촉발
'빠르게 움직여 깨뜨린다'는 페이스북의 철학은 단기간에 거대 광고 기업으로 성장하는데 도움이 됐지만, 예상치 못한 결과도 초래했다. 

이 소셜 네트워크는 스리랑카 극단주의자들의 반 무슬림 폭력 사태를 촉발시켰고, 케임브리지 애널리티카(CA)가 영국의 EU 탈퇴 국민 투표와 미국 대통령 선거에 영향을 주는 토대를 마련했다. 또 미얀마의 강경 민족주의자들이 로힝야족을 학살하는 계기를 촉발시키기도 했다. UN이 '인종 청소의 교과서적 사례'라고 부르는 그 사건이다. 

페이스북 제품 관리 담당 부사장 아담 모서리는 슬레이트(Slate) 팟캐스트 이프 덴에서 이 학살 사건이 페이스북의 근본적 지향점에 의문을 제기했다고 말했다. 그는 "세계를 연결한다는 것이 늘 좋은 결과를 초래하지는 않는다"라고 결국 인정했다.



2. 스피너 - 사랑하는 이를 조종하기
소비자, 유권자를 대상으로 한 타깃 광고의 위력은 이미 널리 알려져 있다. 그러나 런던에 소재한 스피너라는 스타트업은 누구나 친구, 지인, 가족을 조종할 수 있는 서비스를 제공한다. 29달러만 내면 스피너가 웹 사이트의 콘텐츠를 제어해 무의식적으로 영향을 주는 것이다. 가령 고객이 파트너와의 성관계를 원하는 경우라면, '당신이 섹스를 해야 하는 5가지 이유'와 같은 기사 10건을 파트너에게 180회 노출시키는 패키지를 구매할 수 있다. 

그러면 스피너는 타깃에게 해당 쿠키를 활성화하는 링크가 내제된 무해해보이는 텍스트를 발송한다. 타깃이 링크를 클릭하면 이러한 메시지가 포함된 기사 및 미디어에 전략적으로 노출되게 된다. 스피너 고객은 또 파트너에게 영향을 줄 수 있도록 고안된 캠페인을 구매할 수도 있다(그러나 인기는 그리 많지 않다).

스피너의 마케팅 및 소셜 책임자인 엘리엇 셰플러는 FT와의 인터뷰에서 "대부분 남성이 고객이다. 그리고 그들 대부분은 성관계 촉발 패키지를 원한다. 수요와 공급 사례다"라고 말했다. 



3. IBM - 인종 감지하는 경찰용 안면 인식 시스템 개발
2018년 IBM이 시민 운동가들의 분노를 촉발시켰다.  더 인터셉트(The Intercept)에 따르면 이 회사는 뉴욕 경찰과 협력하여 당국이 피부색, 성별, 연령, 머리카락 색, 피부 색 등을 기준으로 사람들을 검색하는 데 사용할 수 있는 안면 인식 시스템을 구축했기 때문이다.

이는 IBM이 과거 나찌에게 수백 만 명의 사람을 수용소로 이송하는데 도움을 주는 기술을 제공했었다는 점에서 그리 놀라운 일이 아니다. 사실 IBM은 사법 당국에게 안면 인식 기술을 제공하는 유일한 기술 기업도 아니다. 

일례로 아마존은 2곳의 미국 주 당국에 안면 인식 시스템을 공급한 바 있으며 이미 및 세무 기관에도 판매한 바 있다. 영국에서도 여러 경찰 기관이 유사한 기술을 시범 테스트했다. 한 곳은 카메라를 지날 때 얼굴을 가린 시민에게 90유로의 벌금을 부과하기도 했다. 

빅 브라더 워치(Big Brother Watch)의 실키 카를로 디렉터는 경찰이 안면 인식 기술을 사용할 법적 근거가 없다며 "영국의 600만 대에 이르는 거대 CCTV 네트워크에서 생생할 얼굴 인식 기능을 사용할 수 있다는 점에 궁극적인 두려움을 느낀다"라고 BBC와의 인터뷰에서 말했다. 

4. 아마존 - 자동화된 직원 감시
아마존은 직원을 로봇처럼 대한다는 비난을 종종 받는 기업이다. 이 거대 기업의 감시를 다룬 최근 보고서에 따르면 이러한 의혹은 사실에 가깝다. 

지난 4월 더 버지는 아마존이 자동 추적 및 종료 시스템을 사용하여 직원을 평가한다고 보도했다. 이 미디어에 입수해 보도한 편지에 따르면 아마존 측 변호사는 해당 시스템이 "각 직원의 생산성 비율을 추적"하고 "관리자로부터 입력없이도 품질이나 생산성에 관한 경고 또는 종료를 자동으로 생성한다"라고 기술했다. 

아마존은 이 밖에도 다양한 물류 관리 도구를 개발하고 있다. 작년에는 직원의 위치와 움직임을 추적하고 바르게 작업을 완료하지 못하면 경고를 발하는 팔찌에 대한 특허를 획득했다. 로컬 셀프 릴라인어스 공동 디렉터 스테이시 미셸은 "아마존 직원들은 로봇에 의해 감시 및 감독됐다"라고 버지와의 인터뷰에서 말했다. 

5. 우버 - 이익을 위해 시위 지역에 급증한 이용료 책정
각종 스캔들을 일으키고 있는 우버의 평판은 2017년 1월 바닥까지 추락했다. 트럼프 미 대통령의 무슬림 여행 금지 조치에 대한 뉴욕 택시 기사들의 파업이 발생한 가운데, 우버가 이익 극대화를 위해 이용료를 급증시켰기 때문이다. 이로 인해 '#DeleteUber' 캠페인지 벌어지기도 했다. 

이 회사는 또 기자, 정치인, 유명인, 우버 직원의 여행을 'God View' 도구를 이용해 추적한 것으로 알려졌으며, 'Hell' 프로그램을 통해 경쟁사 리프트 운전 기사의 가용성 및 가격을 모니터링 한 것으로 전해졌다. 

6. 구글 - 글로벌 감시 시스템 구축
구글이 작년 회사의 강령에서 '사악해지지 말라'라는 슬로건을 조용히 삭제한 이후 개인 정보 운동가들이 구글에 대한 비난의 목소리를 높이고 있다. 

이들의 주요 관심사는 이 검색 엔진 거물의 진화에 집중되어 있다. 구글은 타깃 광고를 위한 데이터 수집을 개척한 이후 구글 맵스에 입력된 위치에서 구글 어시스턴트의 음성 명령에 이르기까지 사용자 정보를 수집 할 수있는 새로운 방법을 지속적으로 찾고 있다

최근에는 가정 보안 및 경보 시스템인 네스트 시큐어에 사용자에게 알리지 않고 마이크를 설치했다. 구글 대변인은 비즈니스 인사이더와의 인터뷰에서 "온 디바이스 마이크는 결코 비밀이 아니다. 기술 사양에 등재돼 있었어야 했다. 우리 측 실수일 따름이다"라고 말했다. ciokr@idg.co.kr
 

X