2019.04.09

블로그 | AI 시스템의 편향성을 악화시키는 클라우드 가용성

David Linthicum | InfoWorld
가트너에 따르면, 지금부터 2022년까지 AI 프로젝트의 85%가 데이터와 알고리즘, 아니면 프로젝트 관리를 맡은 팀의 편향성 때문에 잘못된 결과물을 내놓을 것으로 전망된다. 게다가 갤럽에 따르면 현재 미국인의 85%가 최소한 하나 이상의 AI 기반 디바이스나 프로그램, 서비스를 사용한다.
 
ⓒGettyImagesBank

편향성은 필자가 1980년대 후반부터 AI 시스템의 동향을 관찰하면서 알고 있는 바로 그 편향성이다. 사실 사람이 AI를 프로그램하고 가르치기 때문에 AI는 가르친 사람의 내재적 편향성을 띠는 경향이 있다.

그런데 귀중한 AI 시스템을 호스팅하기 위해 클라우드를 사용하는 것이 실제로 상황을 더 악화시킨다. 왜냐하면 AI를 구축할 여유가 있는 수많은 기업이 클라우드로 올라갔지만, 같은 공간에서 견실한 AI 기술을 가진 수많은 인력을 키워내지는 못했기 때문이다. 따라서 더 광범위하게 사용되는 AI 툴의 내재적인 편향성에 전문 인력의 부족이 더해지면 더 많은 오류가 생길 수밖에 없다.

이들 편향성은 어떤 모습으로 나타날까? 여성이 손해를 볼지도 모른다. AI를 개발하고 가르치는 사람의 대다수가 남성이기 때문에 의식 또는 무의식적인 편향성이 코딩될 것이다. 예를 들어, 2015년 연구에 따르면, 구글 이미지 검색에서 CEO를 찾으면, 표시된 결과의 11%만이 여성이다. 실제로 미국에서 여성 CEO의 비율은 27%이다. 그나마 구글은 이런 문제를 빠르게 고친다.

기업은 이런 AI의 내재적인 편향성에 주의를 기울여야만 할 것이다. 예를 들어, 자격이 충분한 여성에게 대출을 해주지 않음으로써 생기는 수익 영향을 흡수해야 한다. 이런 여성이 시장의 55%를 차지한다. 이런 문제는 좋게 봐도 악업을 쌓는 일이고, 최악의 경우 법적 분쟁의 늪에 빠질 수도 있다.

어떻게 해야 하는가? 편향된 AI가 표준이라는 것을 인정해야 한다. 그래서 IT는 편향성이 있다는 것을, 아니면 있을 수도 있다는 것을 인식할 필요가 있다. 그리고 피해를 제한할 수 있는 조처를 해야 한다. 다행스럽게도 AI 기반의 편향성을 발견하는 데 도움을 주는 툴이 새로이 등장하고 있다.

하지만 숨겨진 편향성에 대한 감시를 게을리 하지 말아야 하며, 이들이 끼치는 나쁜 영향을 최소화하기 위한 조처를 해야 한다.  editor@itworld.co.kr



2019.04.09

블로그 | AI 시스템의 편향성을 악화시키는 클라우드 가용성

David Linthicum | InfoWorld
가트너에 따르면, 지금부터 2022년까지 AI 프로젝트의 85%가 데이터와 알고리즘, 아니면 프로젝트 관리를 맡은 팀의 편향성 때문에 잘못된 결과물을 내놓을 것으로 전망된다. 게다가 갤럽에 따르면 현재 미국인의 85%가 최소한 하나 이상의 AI 기반 디바이스나 프로그램, 서비스를 사용한다.
 
ⓒGettyImagesBank

편향성은 필자가 1980년대 후반부터 AI 시스템의 동향을 관찰하면서 알고 있는 바로 그 편향성이다. 사실 사람이 AI를 프로그램하고 가르치기 때문에 AI는 가르친 사람의 내재적 편향성을 띠는 경향이 있다.

그런데 귀중한 AI 시스템을 호스팅하기 위해 클라우드를 사용하는 것이 실제로 상황을 더 악화시킨다. 왜냐하면 AI를 구축할 여유가 있는 수많은 기업이 클라우드로 올라갔지만, 같은 공간에서 견실한 AI 기술을 가진 수많은 인력을 키워내지는 못했기 때문이다. 따라서 더 광범위하게 사용되는 AI 툴의 내재적인 편향성에 전문 인력의 부족이 더해지면 더 많은 오류가 생길 수밖에 없다.

이들 편향성은 어떤 모습으로 나타날까? 여성이 손해를 볼지도 모른다. AI를 개발하고 가르치는 사람의 대다수가 남성이기 때문에 의식 또는 무의식적인 편향성이 코딩될 것이다. 예를 들어, 2015년 연구에 따르면, 구글 이미지 검색에서 CEO를 찾으면, 표시된 결과의 11%만이 여성이다. 실제로 미국에서 여성 CEO의 비율은 27%이다. 그나마 구글은 이런 문제를 빠르게 고친다.

기업은 이런 AI의 내재적인 편향성에 주의를 기울여야만 할 것이다. 예를 들어, 자격이 충분한 여성에게 대출을 해주지 않음으로써 생기는 수익 영향을 흡수해야 한다. 이런 여성이 시장의 55%를 차지한다. 이런 문제는 좋게 봐도 악업을 쌓는 일이고, 최악의 경우 법적 분쟁의 늪에 빠질 수도 있다.

어떻게 해야 하는가? 편향된 AI가 표준이라는 것을 인정해야 한다. 그래서 IT는 편향성이 있다는 것을, 아니면 있을 수도 있다는 것을 인식할 필요가 있다. 그리고 피해를 제한할 수 있는 조처를 해야 한다. 다행스럽게도 AI 기반의 편향성을 발견하는 데 도움을 주는 툴이 새로이 등장하고 있다.

하지만 숨겨진 편향성에 대한 감시를 게을리 하지 말아야 하며, 이들이 끼치는 나쁜 영향을 최소화하기 위한 조처를 해야 한다.  editor@itworld.co.kr

X