Offcanvas

AI / 보안 / 분쟁|갈등 / 빅데이터 | 애널리틱스 / 신기술|미래

'IBM에 이어 아마존·MS도 중단 선언' 향후 안면인식 기술은...

2020.06.18 Rosalyn Page  |  CMO


알고리즈믹 저스티스 리그(Algorithmic Justice League)를 만든 MIT의 연구원인 조이 불라뮈니는 IBM의 결정을 높이 평가했지만, 동시에 시스템적 변화를 촉구했다.

그녀는 “경찰에 배치된 경우를 중심으로 안면인식 기술이 인권을 훼손하고 있으며, 특히 흑인과 원주민, 유색 인종에 피해를 주고 있음을 인정한 점은 환영할 일이다”라고 말했다.

알고리즈믹 저스티스 리그는 계속해서 안면인식 기술을 공급할 기업들은 이 단체가 안면인식과 분석 기술의 남용을 줄이기 위해 개발한 메커니즘인 ‘세이프 페이스 서약(Safe Face Pledge)’에 서명할 것도 촉구했다. 이 서약은 기술을 파괴적으로 사용하고, 경찰이 불법으로 사용하는 것을 금지하며, 정부에서 사용하는 경우에는 투명성을 요구한다.

한편, 마이크로소프트는 미국에서 안면인식 기술을 현재 판매하고 있지 않을 뿐 아니라 이 기술을 사용하는 방법을 규제하는 연방법이 도입되기 전에는 이 기술을 판매하지 않을 계획이라고 밝혔다. 마이크로소프트의 브래드 스미스 사장은 워싱턴 포스트와 가진 인터뷰에서 “기술 회사만이 아닌, 의회가 행동해야 한다. 그것이 사람들의 생명 보호를 보장할 유일한 방법이다”라고 강조했다.

호주의 경우, NEC의 안면인식 기술이 정부와 상업 부문 모두에 사용되고 있다. 상업 부문의 경우 건물 출입, 신원 확인이나 인증, 라이선스와 문서 위조 여부 등에 사용된다. 전 세계적으로 70개 국가와 지역에서 1,000여 종의 바이오 매트릭(생체 인증) 시스템이 사용되고 있다. 이 회사의 홍보 담당자는 <CMO>에 여러 인종과 다른 인구통계학적 집단과 관련, 안면인식 알고리즘의 정확성을 구현하는 데 많은 노력을 기울였다고 말했다. 

이 회사는 AI와 인권에 대한 원칙 같은 핵심 가치들을 추구한다. 또한 우리 사회에서 인종차별을 종식하는 노력에 헌신하고 있다. 이 홍보 담당자는 “시스템적인 인종차별이나 다른 형태의 사회적 불공정이 계속해서 흑인과 소수계 공동체를 억누른다면 세상이 밝아지지 않을 것이다. NEC는 앞으로도 계속 공공 안전과 사회적 정의에 도움을 주는 방식으로 기술이 책임 있게 쓰이도록 만드는 노력에 헌신할 계획이다. 우리는 치안기관들이 편향(편견)을 없애고 프라이버시, 자유, 권리를 보호하고 사회 정의가 구현되도록 공정하면서도 효과적으로 수사나 조사를 수행하도록 도움을 주는 첨단 안면인식 기술, 기타 혁신 기술을 활용할 수 있어야 한다고 믿는다”라고 말했다.

안면인식 기술과 관련해 압력을 받는 것은 대형 기술 기업만이 아니다. 최근 클리어뷰 AI는 민간 부문에 이러한 기술 공급을 중단할 수밖에 없었다. 데이터베이스에 약관에 위배되는 소셜미디어 플랫폼 이미지가 포함된 것이 드러났기 때문이다. 그러나 클리어뷰 AI는 법 집행기관에는 계속해 이 기술을 판매하고 있다. 뉴욕타임스 보도에 따르면, 미국의 600여 법 집행기관이 현재 이 회사의 기술을 이용하고 있다. 미국 상원의원 중 한 명은 클리어뷰 AI에 플랫폼의 편향과 정확성에 대한 독립적인 테스트를 요구했지만, 이 회사는 계속 이 요구를 거부하는 것으로 알려져 있다. 

또한 유럽 데이터 보호 위원회(EDPB: European Data Protection Board)는 클리어뷰 AI 기술이 유럽에서는 불법일 가능성이 있다고 경고했으며, 구글과 페이스북, 트위터는 클리어뷰에 자신의 디지털 플랫폼을 통해 이미지를 수집하는 행위를 중지하라는 서한을 보냈다.

또 다른 웹 기반 안면인식 기업인 핌아이(PimEye)도 기술이 남용되고 있을 가능성이 있다는 공격을 받고 있다. 핌아이는 사용자가 얼굴 사진을 업로드, 인터넷에서 같은 사람의 다른 사진을 검색할 수 있는 플랫폼을 제공하고 있다.

영국의 빅브라더워치(Big Brother Watch)는 BBC에 “개인에게 아주 강력한 감시 기술이 판매되고 있는데, 이는 아주 오싹한 일이다”라고 말했다. 핌아이는 웹사이트를 뒤질 뿐이며, 약관을 통해 공개된 사진만 가져올 수 있게 되어 있다고 말하고 있다.
 


안면인식 기술을 앞으로도 계속 금지해야 할까?
안면인식 기술이 초래할 수 있는 프라이버시와 감시 문제에 초점이 맞춰지는 가운데, 일부 전문가들은 규칙과 지침만으로는 이 인권 침해 기술로부터 제대로 된 보호를 받을 수 없다고 지적한다. 모나쉬 대학 산하 신기술 연구소의 자단 사도브스키 박사는 일시적 사용 중지와 더 강력한 규제가 올바른 방향으로 유도하는 단계적 역할을 할 수 있지만, 이와 동시에 안면인식 기술을 금지할 필요가 있다고 말했다. 

사도브스키는 “안면인식처럼 위험한 기술은 윤리적 사용에 관한 모범 사례를 만들려 시도하기보다 금지하기가 더 쉽다. 아마존은 치안과 관련 없는 기관, 조직에는 현재는 물론 앞으로도 계속 안면인식 서비스와 다른 감시 인프라를 제공할 것이다. 이번 조치는 주요 기관 사용자 중 하나에게 일시적으로 서비스를 중지한 것에 불과하다. 정의와 규제를 주창하는 사람들에게 이는 승리가 아니다. 그보다는 공격적으로 움직여 치안-산업 복합체로부터 실질적이고 영구적인 승리를 얻어내는 기회다”라고 말했다. ciokr@idg.co.kr

 

CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.