2017.10.10

구글 딥마인드, '윤리부서' 출범

George Nott | Computerworld
구글의 인공지능 자회사 딥마인드가 윤리와 사회를 연구하는 전담 부서를 신설했다.



딥마인드의 발표에 따르면, 이 조직은 인문사회과학을 연구하고 자금을 지원하며 공개토론 행사를 진행하게 된다.

이 조직은 미래의 인공지능 연구를 끌어가는 다섯 가지 '핵심 원칙'을 발표했으며 이는 다음과 같다.

- 글로벌 사회와 환경에 도움이 되는 방식으로 기술을 개발한다
- 엄격하고 철저히 증거에 기반을 둬 연구한다
- 자금 조달 방식 방식을 비롯해 모든 과정은 투명하고 개방적이어야 한다
- 다양한 목소리를 담고 학구적이어야 한다
- 포괄적으로 협업해야 한다

지난주 초 윤리부서는 블로그에서 "이 신설 부서가 AI의 실제 영향을 연구하고 이해하는 데 도움이 될 것"이라고 밝혔다. 해당 블로그 게시물에서 "윤리 부서는 기술자들이 윤리를 실천할 수 있도록 도우며, AI가 사회에 미치는 영향을 예견하고 방향을 제시하여 모든 사람의 이익을 위해 효과를 발휘할 수 있도록 도움을 준다는 목표를 세웠다"고 전했다.

이 부서는 ‘도덕성과 가치, 거버넌스와 책임, 프라이버시와 공정성’ 등 핵심적인 윤리문제를 발표했다.

이 발표는 영국의 정보위원회가 NHS 데이터를 사용하여 시행한 시도를 저지한 후 딥마인드의 공공 이미지에 대한 피해를 극복하기 위해 어떤 방법이든 시행될 것이다.

윤리부서는 "인공지능 기술이 사회에 공헌해야 한다면 사회의 우선순위와 관심사에 따라 인공지능 기술이 형성돼야 합니다. 이는 폐쇄적인 솔루션에 대한 연구가 아니라 AI 기술의 향후 영향에 대한 집단적 반응을 면밀히 조사하고 설계하는 데 도움이 된다"고 전했다. 이어서 “딥마인드 윤리&사회 연구를 시작으로 우리 자신을 포함해 가정에 도전하고 진정으로 유익하고 책임 있는 AI를 위한 길을 열어 줄 것을 희망한다"고 덧붙였다.

윤리 연구에 앞장서는 AI 기업들
딥마인드는 2014년 구글에 인수됐으며 현재 알파벳(Alphabet) 그룹의 일부다. 디 인포메이션(The Information)에 따르면, 구글은 인수의 일환으로 윤리위원회를 설립하는 데 동의했다.

이후 가디언 보도에 따르면, 딥마인드는 누가 위원회 회원이며, 무엇을 논의하고, 공식적으로 만났는지를 공개적으로 확인해 달라는 요청을 줄곧 거부했다.

한편, 지난 7월 경쟁사인 마이크로소프트는 엔지니어링과 연구 분야의 AI와 윤리(Aether : AI and Ethics in Engineering and Research)라는 회사 차원의 AI 자문 패널을 만들었다.

딥마인드와 마이크로소프트는 아마존, 애플, 페이스북, IBM과 함께 인공지능 연구의 모범 사례를 연구하고 개발하는 비영리 단체인 ‘사람과 사회에 공헌하는 인공지능을 위한 파트너십(Partnership on Artificial Intelligence to Benefit People and Society)’의 창립 회원사다.

지난 5월 이베이, 인텔, 맥킨지앤컴퍼니, 세일즈포스, SAP, 소니도 합류하면서 이 단체는 계속해서 커지고 있다.

사람과 사회에 공헌하는 인공지능을 위한 파트너십은 현재 임원진을 꾸리고 있다. ciokr@idg.co.kr
 



2017.10.10

구글 딥마인드, '윤리부서' 출범

George Nott | Computerworld
구글의 인공지능 자회사 딥마인드가 윤리와 사회를 연구하는 전담 부서를 신설했다.



딥마인드의 발표에 따르면, 이 조직은 인문사회과학을 연구하고 자금을 지원하며 공개토론 행사를 진행하게 된다.

이 조직은 미래의 인공지능 연구를 끌어가는 다섯 가지 '핵심 원칙'을 발표했으며 이는 다음과 같다.

- 글로벌 사회와 환경에 도움이 되는 방식으로 기술을 개발한다
- 엄격하고 철저히 증거에 기반을 둬 연구한다
- 자금 조달 방식 방식을 비롯해 모든 과정은 투명하고 개방적이어야 한다
- 다양한 목소리를 담고 학구적이어야 한다
- 포괄적으로 협업해야 한다

지난주 초 윤리부서는 블로그에서 "이 신설 부서가 AI의 실제 영향을 연구하고 이해하는 데 도움이 될 것"이라고 밝혔다. 해당 블로그 게시물에서 "윤리 부서는 기술자들이 윤리를 실천할 수 있도록 도우며, AI가 사회에 미치는 영향을 예견하고 방향을 제시하여 모든 사람의 이익을 위해 효과를 발휘할 수 있도록 도움을 준다는 목표를 세웠다"고 전했다.

이 부서는 ‘도덕성과 가치, 거버넌스와 책임, 프라이버시와 공정성’ 등 핵심적인 윤리문제를 발표했다.

이 발표는 영국의 정보위원회가 NHS 데이터를 사용하여 시행한 시도를 저지한 후 딥마인드의 공공 이미지에 대한 피해를 극복하기 위해 어떤 방법이든 시행될 것이다.

윤리부서는 "인공지능 기술이 사회에 공헌해야 한다면 사회의 우선순위와 관심사에 따라 인공지능 기술이 형성돼야 합니다. 이는 폐쇄적인 솔루션에 대한 연구가 아니라 AI 기술의 향후 영향에 대한 집단적 반응을 면밀히 조사하고 설계하는 데 도움이 된다"고 전했다. 이어서 “딥마인드 윤리&사회 연구를 시작으로 우리 자신을 포함해 가정에 도전하고 진정으로 유익하고 책임 있는 AI를 위한 길을 열어 줄 것을 희망한다"고 덧붙였다.

윤리 연구에 앞장서는 AI 기업들
딥마인드는 2014년 구글에 인수됐으며 현재 알파벳(Alphabet) 그룹의 일부다. 디 인포메이션(The Information)에 따르면, 구글은 인수의 일환으로 윤리위원회를 설립하는 데 동의했다.

이후 가디언 보도에 따르면, 딥마인드는 누가 위원회 회원이며, 무엇을 논의하고, 공식적으로 만났는지를 공개적으로 확인해 달라는 요청을 줄곧 거부했다.

한편, 지난 7월 경쟁사인 마이크로소프트는 엔지니어링과 연구 분야의 AI와 윤리(Aether : AI and Ethics in Engineering and Research)라는 회사 차원의 AI 자문 패널을 만들었다.

딥마인드와 마이크로소프트는 아마존, 애플, 페이스북, IBM과 함께 인공지능 연구의 모범 사례를 연구하고 개발하는 비영리 단체인 ‘사람과 사회에 공헌하는 인공지능을 위한 파트너십(Partnership on Artificial Intelligence to Benefit People and Society)’의 창립 회원사다.

지난 5월 이베이, 인텔, 맥킨지앤컴퍼니, 세일즈포스, SAP, 소니도 합류하면서 이 단체는 계속해서 커지고 있다.

사람과 사회에 공헌하는 인공지능을 위한 파트너십은 현재 임원진을 꾸리고 있다. ciokr@idg.co.kr
 

X