Offcanvas

AI / 분쟁|갈등 / 비즈니스|경제 / 소매|유통

‘손님 얼굴 촬영해 절도범 DB와 비교’··· 美 약국 체인이 받은 처벌은?

2023.12.21 Sascha Brodsky  |  Computerworld
미국의 약국 체인 기업 라이트 에이드(Rite Aid)가 앞으로 5년 동안 감시용 안면 인식 기술의 사용을 금지한다는 미국 연방거래위원회(FTC)의 결정을 수용할 예정이다.

이 결정은 이 기술이 오용되어 소비자에게 피해를 입혔다는 FTC의 주장에 따른 것이다. 라이트 레이드는 2012년부터 2020년까지 절도범을 감지하기 위해 AI 기반 얼굴 인식 기술을 사용했다. 그러나 이 시스템은 특정 고객을 이전 절도범으로 잘못 식별했으며 특히 "유색인종에게 불균형적으로 적용됐다"라고 FTC는 밝혔다.

FTC에 따르면 라이트 에이드가 수백 곳의 매장에서 AI 기반 얼굴 스캔 기술을 사용해 개인을 식별했다. FTC는 적절한 안전장치가 없고 부정확성 및 인종적 편견이 있는 기술로 인해 회사 직원이 고객을 도난 혐의로 부당하게 고발하곤 했다고 전했다.

FTC의 소비자 보호국 국장인 사무엘 레빈은 보도자료에서 "라이드 에이드의 무분별한 안면 감시 시스템 사용으로 인해 고객들은 굴욕감과 기타 피해에 직면했다. 또 소비자의 민감한 정보가 위험에 처했다"라고 말했다. 

그는 또 "위원회가 불공정한 생체 인식 감시와 불공정한 데이터 보안 관행으로부터 대중을 보호하기 위해 노력할 것임을 분명히 밝힌다"라고 전했다.

FTC에 따르면, 라이트 에이드의 시스템은 안면 인식 기술을 사용하여 매장에 들어오는 고객을 스캔했다. 이후 고객의 얼굴을 절도범 관련 데이터베이스와 비교했다. 시스템에서 일치하는 사람이 발견되면 직원에게 해당 고객을 면밀히 모니터링하도록 경고했다. 그러나 사진 데이터베이스는 거친 감시 영상과 휴대전화의 저화질 이미지로 채워져 있었기 때문에 신뢰할 수 없는 매칭이 발생했다. 결국 직원들이 범죄를 목격하지 않고도 고객을 미행하거나 경찰에 신고하는 일이 발생했다.

FTC는 또 라이트 에이드가 고객에게 안면 인식 기술 사용에 대해 알리지 않았으며, 직원들에게는 안면 인식 기술 사용 사실을 비밀로 하도록 지시했다고 지적했다. 또 라이트 에이드가 익명의 회사 두 곳과 협력하여 수만 장의 이미지가 포함된 '요주의 인물' 데이터베이스를 구축했다고 주장했다.

라이트 에이드는 지난 10월 파산 보호를 신청한 바 있다. 회사는 현재 진행 중인 파산 사건을 감독하는 법원의 승인을 받아야 FTC와의 합의가 확정될 수 있다고 밝혔다.

라이트 에이드는 성명에서 "이번 혐의는 회사가 제한된 일부 매장에 배포한 안면 인식 기술 파일럿 프로그램과 관련이 있다. 우리는 FTC의 조사가 시작되기에 앞서 3년여 전에 기술 사용을 중단했다"라고 밝혔다.

도미노 데이터 랩의 데이터 과학 전략 및 홍보 책임자인 켈 칼슨(Kjell Carlsson)은 FTC의 이번 금지 조치가 미국 내 AI 규제의 분산적 특성을 반영한다고 평가했다.

그는 "EU AI 법은 AI에 초점을 맞췄으며 강력한 벌금으로 뒷받침한다. 일관된 규제를 약속하는 EU와 달리, 미국에서는 기업들은 연방 기관, 주 및 지방 자치 단체 의원들에 의해 규제가 산발적으로 패치되는 양상을 보인다. 대부분 AI 자체보다는 데이터의 오용에 초점을 맞추고 있으며 비교적 경미한 처벌이 부과된다"라고 말했다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.