2019.07.02

“트라우마 차단 필요”··· 호주 경찰, 아동 학대물 식별에 AI 적용 모색 중

George Nott | CIO Australia
아동 음란물 콘텐츠를 조사한 경찰관들이 트라우마를 겪는 경향이 있다. 타인과 상의하기 곤란하기 때문에 문제는 더 복잡해질 수 있다. 호주 연방 경찰청(AFP)이 경찰 조사원을 보호하기 위해 아동 음란물 자료를 확인하고 분류 할 수 있는 머신러닝 알고리즘 개발을 검토하고 있다. 

AFP와 협력해 연구를 진행하고 있는 모나시 대학 연구진은 아동 음란물이 인간에 의해 조사되기 전에 분류하고 규정하는 것이 목표라고 전하며, 향후에는 조사자에게 심각한 심리적 고통을 유발할 수 있는 다른 테러 사례도 감지하도록 확장될 예정이라고 전했다. 

법 집행을 위한 인공지능 공동 요원인 재니스 달린스 박사는 “이 이니셔티브의 궁극적인 목적은 법 집행과 지역 사회 안전을 향상시키는 데 있어 머신러닝 및 데이터 분석의 사용을 윤리적으로 연구하는 것이다”라고 전했다. 

설명에 따르면 프로토 타입 시스템은 달린스와 데이터 61의 연구원이 작년에 처음 만들어냈다. 이미지 분류자는 구글의 텐서플로우를 비롯한 오픈소스 시스템 학습 프레임워크를 사용하여 작성됐다. 아직 아동 학대의 심각성을 분류하는 능력은 제한적이지만, 인간 조사자의 트라우마를 조기 진단하는 데에는 효과가 입증됐다고 연구진은 전했다. 

AFP의 앤드류 콜빈 커미셔너는 이번 이니셔티브에 대해 “아동 음란물 자료 및 기타 참혹한 콘텐츠에 대한 AFP 임원의 노출을 최소화 할 것으로 기대한다. 동시에 이 콘텐츠를 식별하고 분류하는 능력을 크게 개선시킬 것으로 본다”라고 말했다. 

한편 유사한 작업이 영국 경찰에 의해서도 진행되고 있다. 구글은 작년 “가급적 적은 사람들에게 노출되는 것을 요구하는 방식으로 콘텐츠를 검토 할 수 있는 능력을 향상시키는" 툴킷인 ‘콘텐트 세이트프티 API’를 NGO 및 파트너에게 제공한다고 발표한 바 있다. ciokr@idg.co.kr



2019.07.02

“트라우마 차단 필요”··· 호주 경찰, 아동 학대물 식별에 AI 적용 모색 중

George Nott | CIO Australia
아동 음란물 콘텐츠를 조사한 경찰관들이 트라우마를 겪는 경향이 있다. 타인과 상의하기 곤란하기 때문에 문제는 더 복잡해질 수 있다. 호주 연방 경찰청(AFP)이 경찰 조사원을 보호하기 위해 아동 음란물 자료를 확인하고 분류 할 수 있는 머신러닝 알고리즘 개발을 검토하고 있다. 

AFP와 협력해 연구를 진행하고 있는 모나시 대학 연구진은 아동 음란물이 인간에 의해 조사되기 전에 분류하고 규정하는 것이 목표라고 전하며, 향후에는 조사자에게 심각한 심리적 고통을 유발할 수 있는 다른 테러 사례도 감지하도록 확장될 예정이라고 전했다. 

법 집행을 위한 인공지능 공동 요원인 재니스 달린스 박사는 “이 이니셔티브의 궁극적인 목적은 법 집행과 지역 사회 안전을 향상시키는 데 있어 머신러닝 및 데이터 분석의 사용을 윤리적으로 연구하는 것이다”라고 전했다. 

설명에 따르면 프로토 타입 시스템은 달린스와 데이터 61의 연구원이 작년에 처음 만들어냈다. 이미지 분류자는 구글의 텐서플로우를 비롯한 오픈소스 시스템 학습 프레임워크를 사용하여 작성됐다. 아직 아동 학대의 심각성을 분류하는 능력은 제한적이지만, 인간 조사자의 트라우마를 조기 진단하는 데에는 효과가 입증됐다고 연구진은 전했다. 

AFP의 앤드류 콜빈 커미셔너는 이번 이니셔티브에 대해 “아동 음란물 자료 및 기타 참혹한 콘텐츠에 대한 AFP 임원의 노출을 최소화 할 것으로 기대한다. 동시에 이 콘텐츠를 식별하고 분류하는 능력을 크게 개선시킬 것으로 본다”라고 말했다. 

한편 유사한 작업이 영국 경찰에 의해서도 진행되고 있다. 구글은 작년 “가급적 적은 사람들에게 노출되는 것을 요구하는 방식으로 콘텐츠를 검토 할 수 있는 능력을 향상시키는" 툴킷인 ‘콘텐트 세이트프티 API’를 NGO 및 파트너에게 제공한다고 발표한 바 있다. ciokr@idg.co.kr

X