2020.12.10

구글 CEO, 前 AI 연구원 부당해고 논란에 “전면 조사하겠다”

박예신 | CIO
구글의 흑인 여성 인공지능 엔지니어 팀닛 게브루 박사가 구글 인공지능의 편향성을 지적한 기명 논문을 출간하려다 회사에서 저지당한 뒤 해고당한 사건을 두고 선다 피차이 구글 CEO 가 조사에 착수하겠다고 전했다. 
 
ⓒSundar Pichai / Timnit Gebru

9일(현지시간) 미 매체 악시오스의 보도에 따르면 피차이는 <인종 평등과 AI 윤리를 위해 헌신하는 이들에게>라는 제목의 서한을 구글 직원에게 보내 “게브루 박사의 퇴사를 둘러싼 반응들을 접했다”라며 “신뢰 회복을 위해 책임을 다하겠다”라고 전했다. 

게브루 박사는 에티오피아 출신의 엔지니어로 구글 인공지능 윤리팀의 팀장이었다. 인공지능 훈련에 필요한 대규모 언어 신경망 모델의 문제점을 지적한 기명 논문을 공동 작성해 공개하려다 구글 인공지능 총괄 부사장인 제프 딘과 갈등을 빚었다. 논문 공저자 6명 중 4명은 구글 연구원이었다. 

이후 게브루 박사는 이의를 제기했지만 해고 통보 메일을 받았다. 이 사건은 게브루 박사가 지난 3일 트위터에 공개하면서 알려졌다. 특히 그녀가 흑인 여성이라는 점과 맞물린 탓에 해고 사건은 구글 커뮤니티에서 논란이 커졌다.

게브루 박사가 출간하려다 저지당한 논문에서는 대규모 언어 신경망에 내재된 환경적, 차별적 문제 등이 지적됐던 것으로 알려졌다. 

MIT 테크놀로지 리뷰를 통해 공개된 핵심 문제는 네 가지였다. ▲ AI 모델을 여러 번, 대규모로 훈련시키는 데는 전력이 많이 소비된다, ▲ 인공지능 학습용 언어 데이터 속에 인종차별적 표현들이 섞이면서 인공지능에 편향성이 생길 수 있다, ▲ 대규모 언어 모델은 인간의 언어를 이해하지 못하며 언어를 조작하는 데 활용된다, ▲ 인간의 언어를 흡사하게 흉내 낼 수 있어서 가짜뉴스나 등 오정보를 생산하는 데 활용될 수 있다. 

하지만 게브루 박사 해임이 부당하다는 데 관한 반론도 있다. 제프 딘이 트위터를 통해 공개한 사내 메일에 따르면 게브루 박사는 대규모 언어 모델의 에너지 효율적인 운영과 편향성 문제 완화에 관한 최신 연구를 해당 논문에서 언급하지 않았다. 또한 딘은 박사가 학회 제출 하루 전에 논문 검토를 신청한 것도 문제 삼았다. 딘이 게브루 박사의 논문 출간을 허락하지 않은 이유였다.

피차이 CEO는 서한에서 “게브루 박사 해임을 야기한 상황을 평가할 필요가 있다”라면서 “저명한 흑인 여성이 구글을 떠났다는 사실에 대한 책임을 받아들여야 한다”라고 설명했다. ciokr@idg.co.kr



2020.12.10

구글 CEO, 前 AI 연구원 부당해고 논란에 “전면 조사하겠다”

박예신 | CIO
구글의 흑인 여성 인공지능 엔지니어 팀닛 게브루 박사가 구글 인공지능의 편향성을 지적한 기명 논문을 출간하려다 회사에서 저지당한 뒤 해고당한 사건을 두고 선다 피차이 구글 CEO 가 조사에 착수하겠다고 전했다. 
 
ⓒSundar Pichai / Timnit Gebru

9일(현지시간) 미 매체 악시오스의 보도에 따르면 피차이는 <인종 평등과 AI 윤리를 위해 헌신하는 이들에게>라는 제목의 서한을 구글 직원에게 보내 “게브루 박사의 퇴사를 둘러싼 반응들을 접했다”라며 “신뢰 회복을 위해 책임을 다하겠다”라고 전했다. 

게브루 박사는 에티오피아 출신의 엔지니어로 구글 인공지능 윤리팀의 팀장이었다. 인공지능 훈련에 필요한 대규모 언어 신경망 모델의 문제점을 지적한 기명 논문을 공동 작성해 공개하려다 구글 인공지능 총괄 부사장인 제프 딘과 갈등을 빚었다. 논문 공저자 6명 중 4명은 구글 연구원이었다. 

이후 게브루 박사는 이의를 제기했지만 해고 통보 메일을 받았다. 이 사건은 게브루 박사가 지난 3일 트위터에 공개하면서 알려졌다. 특히 그녀가 흑인 여성이라는 점과 맞물린 탓에 해고 사건은 구글 커뮤니티에서 논란이 커졌다.

게브루 박사가 출간하려다 저지당한 논문에서는 대규모 언어 신경망에 내재된 환경적, 차별적 문제 등이 지적됐던 것으로 알려졌다. 

MIT 테크놀로지 리뷰를 통해 공개된 핵심 문제는 네 가지였다. ▲ AI 모델을 여러 번, 대규모로 훈련시키는 데는 전력이 많이 소비된다, ▲ 인공지능 학습용 언어 데이터 속에 인종차별적 표현들이 섞이면서 인공지능에 편향성이 생길 수 있다, ▲ 대규모 언어 모델은 인간의 언어를 이해하지 못하며 언어를 조작하는 데 활용된다, ▲ 인간의 언어를 흡사하게 흉내 낼 수 있어서 가짜뉴스나 등 오정보를 생산하는 데 활용될 수 있다. 

하지만 게브루 박사 해임이 부당하다는 데 관한 반론도 있다. 제프 딘이 트위터를 통해 공개한 사내 메일에 따르면 게브루 박사는 대규모 언어 모델의 에너지 효율적인 운영과 편향성 문제 완화에 관한 최신 연구를 해당 논문에서 언급하지 않았다. 또한 딘은 박사가 학회 제출 하루 전에 논문 검토를 신청한 것도 문제 삼았다. 딘이 게브루 박사의 논문 출간을 허락하지 않은 이유였다.

피차이 CEO는 서한에서 “게브루 박사 해임을 야기한 상황을 평가할 필요가 있다”라면서 “저명한 흑인 여성이 구글을 떠났다는 사실에 대한 책임을 받아들여야 한다”라고 설명했다. ciokr@idg.co.kr

X