2019.07.03

안면 인식, 혜택과 위험성 사이의 균형점은?

Rosalyn Page | CMO


여기에 더해 몇몇 실험 결과에 다르면, 이런 시스템은 인종적으로 편향되거나, 부정확한 결과를 제공할 수도 있다.

오픈마이크(OpenMic)는 기술과 미디어 부문에서 프라이버시, 시민권, 표현의 자유와 관련해 기업들의 책임성, 책임 의식을 높이는 것을 사명으로 하는 활동을 펼치고 있다. 이 단체는 책임성을 높이고 향상시키도록 유도하는 비즈니스 케이스를 만든다. 펀드와 기업, 투자 회사 같은 곳의 주주들을 규합하고, 시민권을 더 효과적으로 보호할 수 있도록 로비를 하고, 새로운 기술이 어떤 식으로 기업의 위험 프로필을 높이는지 설명하는 등의 일을 한다. 

이 단체의 마이크 코노 이그제큐티브 디렉터에 따르면, 안면 인식 기술을 전개하는 비즈니스에 초래될 수 있는 위험 중 하나는 평판 하락이다. 고객과 대중의 신뢰가 망가지기 때문에 이런 위험이 초래되는 것이다. 이 단체는 아마존 시스템을 중심으로 안면 인식 기술에도 적극적으로 대처했다.

코노는 이 기술에 동의와 허락이 부재하다는 점을 지적했다. 그러면서 “안면 인식 기술에서 가장 문제가 되는 부분은 규칙이 존재하지 않는 것이다. 다양한 상황에서의 사용 및 활용 방법에 대한 기업 가이드라인, 규정, 법적인 규칙이 존재하지 않는다. 연구 결과는 편향이 존재할 수 있으며, 부정확할 수 있다는 점을 보여주고 있다. 이렇게 우려되는 문제, 질문들이 많다”라고 말했다.

오픈마이크는 아마존이 아마존 레코그니션 서비스 사용 방식을 제한하도록 압력을 넣는 활동에 앞장섰다. 인권 침해에 대한 우려 때문이었다. 아마존은 이 서비스가 시민권을 침해하지 않으며, 편향도 없다고 주장했다. 그러면서도 개인의 권리를 보호하고, 정부가 안면 인식 시스템을 투명하게 사용하도록 강제하는 법이 만들어져야 한다고 덧붙였다. 

미국의 일부 도시와 주 정부는 정부 기관이 안면 인식 기술을 사용하는 것을 금지하고 있거나, 이에 대한 금지를 검토 중이다. 마이크로소프트의 대표조차 미국 의회에 안면 인식 기술의 용도를 규제할 필요가 있으며, 기업에만 맡겨서는 안 된다고 말했다.

이렇게 윤리와 프라이버시에 대한 논쟁이 계속되고 있는 가운데, 기술 공급업체들은 이런 도전과제 가운데 일부를 극복하려 시도하고 있다. 안면 인식 기술을 향상시키는 한 가지 방법은 얼굴 데이터를 개선하는 것이다. 이는 시스템 트레이닝에 사용하는 데이터세트를 통해서만 가능하다. 이와 관련, IBM은 100만 개 이상의 다양한 얼굴 이미지로 구성된 새로운 데이터세트를 릴리스했다. 시스템의 ‘공평성’과 ‘정확성’을 높이려는 시도이다.

이 ‘다이버시티 인 페이스(Diviersity in Face)’는 안면(머리 길이, 코 길이, 이마 높이), 얼굴 비율(대칭), 시각적 특징(나이 및 성별), 포즈 및 해상도 등 10개의 얼굴 코딩 기법이 적용된 공개 데이터세트이다. IBM은 더 나은 트레이닝으로 AI 기반의 안면 인식 시스템을 향상시키는 ‘열쇠’는 광범위한 데이터세트라고 주장하고 있다.

IBM 연구원들은 블로그 게시글을 통해, “안면 인식 시스템이 원하는 기능을 하고, 그 결과물이 더 정확해지기 위해서는 트레이닝 데이터가 다양해야 하고, 괌범위한 적용 범위를 제공해야 한다”라고 강조했다.

법과 관련된 문제들
분명한 것은 개인 데이터를 법으로 보호할 필요가 있다는 것이다. 동시에 안면 인식 혁신에 관심을 갖고 있는 기업에 ‘확실성’을 제공해야 한다.

잉겔브레트는 “법은 항상 바뀐다. 기업이 이런 시스템에 투자한다고 가정하자. 지금 당장 할 수 있는 일, 5년 뒤 등 미래에 할 수 있는 일을 파악해 대응하는 것이 중요하다. 이런 시스템에 투자한다면, 당연히 나중에 이를 사용 및 활용할 수 있어야 한다. 다시 말해 변화에 대처해야 한다는 이야기이다. 유럽과 북미에서 호가인하고 있는 규정 측면의 변화, 규정과 기술이 서로를 따라잡는 것을 말한다”라고 말했다.  

데이터는 고객 인텔리전스와 서비스, 비즈니스를 향상시키는 ‘열쇠’ 이지만, 동시에 비즈니스에 위험을 초래하기도 한다. 오픈마이크의 코너 또한 이런 우려에 동의했다. 그런데 그의 조언은 간단하다.

그는 “데이터 보유가 반드시 좋은 일만은 아니라는 점이 갈수록 분명해지고 있다. 기업들은 빅데이터와 AI를 서둘러 추진했다. 이렇게 하지 않으면 뒤쳐지기 때문이다. 이는 어느 정도 사실이기도 하다. 그러나 수집한 데이터는 ‘책임과 부담’ 이기도 하다. 데이터 보안 및 프라이버시와 관련된 문제를 제기하기 때문이다. 필요한 만큼의 데이터만 보유하는 것이 좋다. 무차별적으로 데이터를 수집하지 말아야 한다. 데이터가 증가하는 만큼 잠재적인 책임과 부담도 커지기 때문이다”라고 지적했다.

더 나아가, 디지털 플랫폼은 법적인 접근법이 다른 여러 사법권에서 운영이 된다. 호주의 경우 프라이버시 법이 EU의 경우 GDPR이라는 데이터 보호 규정이 적용된다. 사실 헬스케어(의료) 분야에서 반드시 준수해야 하는 규정 같이, 데이터를 적절하게 보호하는 것이 아주 힘이 들 수도 있다. 그러나 펠크는 이는 정보 관리 시스템을 향상시키는 기회가 될 수도 있다고 강조했다. 그러면서도 그는 대형 글로벌 플랫폼의 경우, 나라마다 프라이버시 규정을 파악해 준수하는 것이 아주 큰 도전과제라는 점을 인정했다. 

특정 정보의 단편을 캡처해 공유하는 활동 등 특정 활동을 규제할 수는 있지만, 얼굴 이미지와 관련된 수 많은 개인 데이터 수집은 프라이버시 보호에 큰 도전과제이다.

펠크는 “개인을 파악한 후, 이를 데이터와 연결하고, 다른 여러 장소에서의 데이터와 연결하기 시작해 해당되는 사람들은 인식하지 못하고, 동의도 하지 않았고, 확인할 수도 없앨 수도 없는 프로필을 만드는 것은 프라이버시 측면에서 큰 우려를 자아내는 문제”라고 말했다. ciokr@idg.co.kr




2019.07.03

안면 인식, 혜택과 위험성 사이의 균형점은?

Rosalyn Page | CMO


여기에 더해 몇몇 실험 결과에 다르면, 이런 시스템은 인종적으로 편향되거나, 부정확한 결과를 제공할 수도 있다.

오픈마이크(OpenMic)는 기술과 미디어 부문에서 프라이버시, 시민권, 표현의 자유와 관련해 기업들의 책임성, 책임 의식을 높이는 것을 사명으로 하는 활동을 펼치고 있다. 이 단체는 책임성을 높이고 향상시키도록 유도하는 비즈니스 케이스를 만든다. 펀드와 기업, 투자 회사 같은 곳의 주주들을 규합하고, 시민권을 더 효과적으로 보호할 수 있도록 로비를 하고, 새로운 기술이 어떤 식으로 기업의 위험 프로필을 높이는지 설명하는 등의 일을 한다. 

이 단체의 마이크 코노 이그제큐티브 디렉터에 따르면, 안면 인식 기술을 전개하는 비즈니스에 초래될 수 있는 위험 중 하나는 평판 하락이다. 고객과 대중의 신뢰가 망가지기 때문에 이런 위험이 초래되는 것이다. 이 단체는 아마존 시스템을 중심으로 안면 인식 기술에도 적극적으로 대처했다.

코노는 이 기술에 동의와 허락이 부재하다는 점을 지적했다. 그러면서 “안면 인식 기술에서 가장 문제가 되는 부분은 규칙이 존재하지 않는 것이다. 다양한 상황에서의 사용 및 활용 방법에 대한 기업 가이드라인, 규정, 법적인 규칙이 존재하지 않는다. 연구 결과는 편향이 존재할 수 있으며, 부정확할 수 있다는 점을 보여주고 있다. 이렇게 우려되는 문제, 질문들이 많다”라고 말했다.

오픈마이크는 아마존이 아마존 레코그니션 서비스 사용 방식을 제한하도록 압력을 넣는 활동에 앞장섰다. 인권 침해에 대한 우려 때문이었다. 아마존은 이 서비스가 시민권을 침해하지 않으며, 편향도 없다고 주장했다. 그러면서도 개인의 권리를 보호하고, 정부가 안면 인식 시스템을 투명하게 사용하도록 강제하는 법이 만들어져야 한다고 덧붙였다. 

미국의 일부 도시와 주 정부는 정부 기관이 안면 인식 기술을 사용하는 것을 금지하고 있거나, 이에 대한 금지를 검토 중이다. 마이크로소프트의 대표조차 미국 의회에 안면 인식 기술의 용도를 규제할 필요가 있으며, 기업에만 맡겨서는 안 된다고 말했다.

이렇게 윤리와 프라이버시에 대한 논쟁이 계속되고 있는 가운데, 기술 공급업체들은 이런 도전과제 가운데 일부를 극복하려 시도하고 있다. 안면 인식 기술을 향상시키는 한 가지 방법은 얼굴 데이터를 개선하는 것이다. 이는 시스템 트레이닝에 사용하는 데이터세트를 통해서만 가능하다. 이와 관련, IBM은 100만 개 이상의 다양한 얼굴 이미지로 구성된 새로운 데이터세트를 릴리스했다. 시스템의 ‘공평성’과 ‘정확성’을 높이려는 시도이다.

이 ‘다이버시티 인 페이스(Diviersity in Face)’는 안면(머리 길이, 코 길이, 이마 높이), 얼굴 비율(대칭), 시각적 특징(나이 및 성별), 포즈 및 해상도 등 10개의 얼굴 코딩 기법이 적용된 공개 데이터세트이다. IBM은 더 나은 트레이닝으로 AI 기반의 안면 인식 시스템을 향상시키는 ‘열쇠’는 광범위한 데이터세트라고 주장하고 있다.

IBM 연구원들은 블로그 게시글을 통해, “안면 인식 시스템이 원하는 기능을 하고, 그 결과물이 더 정확해지기 위해서는 트레이닝 데이터가 다양해야 하고, 괌범위한 적용 범위를 제공해야 한다”라고 강조했다.

법과 관련된 문제들
분명한 것은 개인 데이터를 법으로 보호할 필요가 있다는 것이다. 동시에 안면 인식 혁신에 관심을 갖고 있는 기업에 ‘확실성’을 제공해야 한다.

잉겔브레트는 “법은 항상 바뀐다. 기업이 이런 시스템에 투자한다고 가정하자. 지금 당장 할 수 있는 일, 5년 뒤 등 미래에 할 수 있는 일을 파악해 대응하는 것이 중요하다. 이런 시스템에 투자한다면, 당연히 나중에 이를 사용 및 활용할 수 있어야 한다. 다시 말해 변화에 대처해야 한다는 이야기이다. 유럽과 북미에서 호가인하고 있는 규정 측면의 변화, 규정과 기술이 서로를 따라잡는 것을 말한다”라고 말했다.  

데이터는 고객 인텔리전스와 서비스, 비즈니스를 향상시키는 ‘열쇠’ 이지만, 동시에 비즈니스에 위험을 초래하기도 한다. 오픈마이크의 코너 또한 이런 우려에 동의했다. 그런데 그의 조언은 간단하다.

그는 “데이터 보유가 반드시 좋은 일만은 아니라는 점이 갈수록 분명해지고 있다. 기업들은 빅데이터와 AI를 서둘러 추진했다. 이렇게 하지 않으면 뒤쳐지기 때문이다. 이는 어느 정도 사실이기도 하다. 그러나 수집한 데이터는 ‘책임과 부담’ 이기도 하다. 데이터 보안 및 프라이버시와 관련된 문제를 제기하기 때문이다. 필요한 만큼의 데이터만 보유하는 것이 좋다. 무차별적으로 데이터를 수집하지 말아야 한다. 데이터가 증가하는 만큼 잠재적인 책임과 부담도 커지기 때문이다”라고 지적했다.

더 나아가, 디지털 플랫폼은 법적인 접근법이 다른 여러 사법권에서 운영이 된다. 호주의 경우 프라이버시 법이 EU의 경우 GDPR이라는 데이터 보호 규정이 적용된다. 사실 헬스케어(의료) 분야에서 반드시 준수해야 하는 규정 같이, 데이터를 적절하게 보호하는 것이 아주 힘이 들 수도 있다. 그러나 펠크는 이는 정보 관리 시스템을 향상시키는 기회가 될 수도 있다고 강조했다. 그러면서도 그는 대형 글로벌 플랫폼의 경우, 나라마다 프라이버시 규정을 파악해 준수하는 것이 아주 큰 도전과제라는 점을 인정했다. 

특정 정보의 단편을 캡처해 공유하는 활동 등 특정 활동을 규제할 수는 있지만, 얼굴 이미지와 관련된 수 많은 개인 데이터 수집은 프라이버시 보호에 큰 도전과제이다.

펠크는 “개인을 파악한 후, 이를 데이터와 연결하고, 다른 여러 장소에서의 데이터와 연결하기 시작해 해당되는 사람들은 인식하지 못하고, 동의도 하지 않았고, 확인할 수도 없앨 수도 없는 프로필을 만드는 것은 프라이버시 측면에서 큰 우려를 자아내는 문제”라고 말했다. ciokr@idg.co.kr


X