Offcanvas

보안 / 비즈니스|경제 / 애플리케이션

블로그ㅣ애플이 ‘CSAM 감지 기능’ 도입을 돌연 연기했다

2021.09.06 Jonny Evans  |  Computerworld
애플이 지난 9월 3일(현지 시각) 프라이버시 침해 및 감시에 악용될 수 있다는 이유로 논란을 불러일으켰던 ‘CSAM(아동 성 착취물) 자동 탐지 기능’ 도입을 연기하겠다고 발표했다. 앞으로 몇 개월간 의견을 수집하고 개선한 다음 출시할 계획이라는 설명이다. 



더 많은 피드백을 요청하다 
회사에 따르면 더 많은 피드백을 받아 시스템을 개선할 예정이다. 이 시스템은 다음의 3가지 요소로 구성돼 있다. ▲아이클라우드(iCloud)에서 CSAM 스캔, ▲온디바이스 머신러닝 기반 아이메시지 스캔, ▲검색 내용 식별이다. 

해당 도구를 공개한 이후, 애플은 전 세계 사용자 및 인권단체의 쏟아지는 비판에 직면했다. 애플이 몇몇 억압적인 정부의 압박으로 CSAM 외에 다른 콘텐츠를 감시할 수 있다는 우려에서다.

--> 프라이버시에 빨간불?… 애플의 CSAM 스캔 계획이 촉발한 논란
 
누가 파수꾼(watchmen)을 감시하는가? 
에드워드 스노든은 트위터에서 “오늘 CSAM을 스캔할 수 있다면 내일은 무엇이든 스캔할 수 있다”라고 경고했다. 일각에서는 이러한 도구가 사상 검열을 지원하거나 자유로운 사고를 위협하는데 악용 및 확장될 수 있다고 말했다. 그런 점에서 시스템을 확장하지 않겠다는 애플의 주장은 다소 세상 물정을 모르는 소리처럼 들렸다. 

애플은 “이전부터 사용자 프라이버시를 침해할 수 있는 정부의 요구를 단호하게 거부해왔다. 앞으로도 계속 거부할 계획이다. 분명히 말하지만 이 기술은 아이클라우드에 저장된 CSAM을 감지하는 데 국한된다. 정부의 확장 요청에는 응하지 않을 것이다”라고 밝혔다. 

하지만 전자프론티어재단(EFF)은 "애플이 좁은 백도어를 넓히기 위해 필요한 건 (다른 유형의 콘텐츠도 탐지할 수 있도록) 머신러닝 매개변수를 확장하는 것뿐”이라고 지적했다.  

애플은 사용자 의견을 경청해야 한다 
애플은 CSAM 자동 탐지 시스템 도입 연기를 발표하면서 다음과 같이 말했다. “이 중요한 기능을 출시하기 앞서 고객, 관련 단체, 연구진 등의 피드백을 바탕으로 의견을 수렴하고 개선하기 위해 향후 몇 달간 시간을 갖기로 결정했다.”

이게 바로 애플이 취해야 할 조치였다. 지난 8월 중순, 90개 이상의 NGO가 애플에 유감을 표하며 (해당 시스템을) 재고해달라고 요청하는 공개 서한을 보냈다. 여기에는 리버티(Liberty), 민주주의 및 기술 단체(Center for Democracy & Technology), 자유 표현 단체(Centre for Free Expression) EFF, ISOC, 프라이버시 인터내셔널(Privacy International) 등이 포함됐다. 

악마는 디테일에 있다
이 기관들은 애플의 계획에 몇 가지 문제가 있다고 경고했다. 그중 하나는 해당 시스템 자체가 학대하는 어른에 의해 남용될 수 있다는 점이다. 이를테면 억압적인 부모의 가족 계정에 있는 성소수자 청소년이 특히 위험하다는 것. 이러한 시스템의 도입으로 아이메시지가 더 이상 해당 사용자에게 기밀 유지와 프라이버시를 제공하지 않는다는 설명이다. 

애플의 계획이 확장(악용)될 수 있다는 우려도 여전하다. CDT 보안 및 감시 프로젝트(CDT Security & Surveillance Project)의 공동 책임자 샤론 브래드포드 프랭클린은 “정부가 애플에 자유 민주주의의 중추를 이루는 정치적 시위 그리고 표현의 자유로 보호돼야 하는 기타 콘텐츠의 이미지를 스캔하고 차단하도록 요구할 것”이라고 언급했다. 

한편 애플 변호인은 이 회사가 달성하고자 하는 건 사용자 데이터의 전반적인 프라이버시를 유지하면서 불법 콘텐츠만 감지할 수 있는 시스템을 만드는 것이라고 말했다. 또한 애플이 시스템에 구축한 다양한 안전 장치를 강조했다. 

이 주장은 통하지 않았고 애플 경영진은 (필자가 본 것과 동일한, 즉 해당 계획에 깊은 불신을 표명한) 소셜 미디어 피드백을 수용했다. 

그 다음은 어떻게 될까? 애플은 이와 관련해서는 구체적으로 밝히지 않았다. 하지만 애플이 이 문제에 대해 시간을 갖겠다고 한 점을 감안하면 해당 도구의 두 번째 버전은 일부 우려를 해소할 수 있을 것이라 예상된다. 

* Jonny Evans는 1999년부터 애플과 기술에 대해 저술해온 전문 기고가다. ciokr@idg.co.kr


 
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.