2017.12.15

IEEE, AI 개발자 대상의 윤리 디자인 가이드 배포

George Nott | Computerworld
지능형 시스템이 보편화되면서 이를 설계하고 개발하는 이들이 윤리적 사항을 고려할 이유가 고조되고 있다. IEEE(Institute of Electrical and Electronics Engineers)는 이번주 '인간 중심적'인 시스템을 보장하기 위한 두 번째 윤리적 정렬 디자인 문서(Ethically Aligned Design document)를 배포했다.

이 문서에는 "기능적 목표를 달성하고 기술 문제를 해결하는 것을 넘어 인간에게 유익한 방식으로 동작하는 시스템이어야 한다. 이를 통해 인간과 기술 사이에 높은 수준의 신뢰를 담보할 수 있다. 인류의 일상에 유익하면서도 보다 널리 보급되기 위한 조건이다"라고 기술돼 있다.

윤리적으로 정렬된 디자인 : 학계, 업계, 정계에 속한 약 250명의 전문가가 1년 동안 논의해 '자율 및 인텔리전트 시스템에 있어 인간의 웰빙을 우선순위화 하기 위한 비전'을 도출했다.

여기에는 자율 시스템의 투명성, 데이터 프라이버시, 알고리즘 바이어스, 혼합 현실, '윤리적인 넛징'(ethically driven nudging) 등에 대한 내용이 담겨 있다. 이 중 윤리적인 넛징이란, 인간의 행동이나 감정에 암암리에 또는 명백하게 영향을 주기 위해 설계된 인텔리전트 시스템과 관련된 것이다.

이 문서는 3월까지 대중으로부터 피드백을 받을 수 있도록 3월까지 공개될 예정이다. 시드니 대학의 소프트웨어 엔지니어링 교수 인 라파엘 칼보를 포함해 호주에 소재한 여러 학자들이 이번 문서 제작에 참여했다.

칼보는 "인공지능에 대한 최근의 진보로 인해 공상 과학에서만 가능했던 기술들이 현실화되기 시작했다. 그러나 이와 관련해 '옳음'과 '좋음'을 규정하기란 대단히 복잡한 문제이며, 이는 우리를 기술과 윤리의 교차로에 밀어넣고 있다"라고 말했다.

그는 이어 "기술이 인류를 미래로 데려가는 가운데 마냥 손을 놓고 '너무 어렵다'라고 외고 있어서는 안 된다"라며 "이번 문서는 판도를 바꾸는 동시에 바람직한 방향으로 이동하도록 하는 첫걸음이다. 그 동안 기술이 사회적 영향으로부터 분리되는 것을 암묵적으로 용인했던 전문화의 보호벽을 깨드리는 것이기 때문이다"라고 덧붙였다.

칼보는 또 이번 문서의 함의 중 하나는 지능형 시스템 개발에 관련된 이들이 장차 초래될 결에 대해 책임을 지도록 하는 것이라고 전했다.

그는 "미래의 기술 리더들에게 비기술적인 영향에 대해서도 책임을 지도록 요구하게 될 것이다. 선의의 집단, 프라이버시와 정의, 물리적이고 정신적 건강, 편견과 도덕적 함의에 이르는 영향들이다. 이번 문서는 기술이 인류와 지구에 긍정적인 혜택을 주도록 보장하려는 방향으로의 긍정적인 진일보다"라고 말했다.

IEEE는 그러나'윤리적 정렬 디자인'이 행동 지침이나 윤리에 대한 전문 지침이 아니라고 선을 그었다.

이 단체는 "목표는 자율 및 인텔리전트 시스템에 대한 막연한 두려움이나 각광을 넘어서도록 하는 것이다"라며 기술 전문가들이 윤리적 고려 사항을 우선순위화할 수 있도록 교육과 훈련, 역량을 제공하고자 한다고 전했다.

IEEE는 "기술을 윤리적 가치와 정렬함으로써 이러한 새로운 도구가 혁신에 일조하는 한편 그 과정에서 나타나는 두려움을 줄일 수 있을 것으로 믿는다"라고 밝혔다. ciokr@idg.co.kr 



2017.12.15

IEEE, AI 개발자 대상의 윤리 디자인 가이드 배포

George Nott | Computerworld
지능형 시스템이 보편화되면서 이를 설계하고 개발하는 이들이 윤리적 사항을 고려할 이유가 고조되고 있다. IEEE(Institute of Electrical and Electronics Engineers)는 이번주 '인간 중심적'인 시스템을 보장하기 위한 두 번째 윤리적 정렬 디자인 문서(Ethically Aligned Design document)를 배포했다.

이 문서에는 "기능적 목표를 달성하고 기술 문제를 해결하는 것을 넘어 인간에게 유익한 방식으로 동작하는 시스템이어야 한다. 이를 통해 인간과 기술 사이에 높은 수준의 신뢰를 담보할 수 있다. 인류의 일상에 유익하면서도 보다 널리 보급되기 위한 조건이다"라고 기술돼 있다.

윤리적으로 정렬된 디자인 : 학계, 업계, 정계에 속한 약 250명의 전문가가 1년 동안 논의해 '자율 및 인텔리전트 시스템에 있어 인간의 웰빙을 우선순위화 하기 위한 비전'을 도출했다.

여기에는 자율 시스템의 투명성, 데이터 프라이버시, 알고리즘 바이어스, 혼합 현실, '윤리적인 넛징'(ethically driven nudging) 등에 대한 내용이 담겨 있다. 이 중 윤리적인 넛징이란, 인간의 행동이나 감정에 암암리에 또는 명백하게 영향을 주기 위해 설계된 인텔리전트 시스템과 관련된 것이다.

이 문서는 3월까지 대중으로부터 피드백을 받을 수 있도록 3월까지 공개될 예정이다. 시드니 대학의 소프트웨어 엔지니어링 교수 인 라파엘 칼보를 포함해 호주에 소재한 여러 학자들이 이번 문서 제작에 참여했다.

칼보는 "인공지능에 대한 최근의 진보로 인해 공상 과학에서만 가능했던 기술들이 현실화되기 시작했다. 그러나 이와 관련해 '옳음'과 '좋음'을 규정하기란 대단히 복잡한 문제이며, 이는 우리를 기술과 윤리의 교차로에 밀어넣고 있다"라고 말했다.

그는 이어 "기술이 인류를 미래로 데려가는 가운데 마냥 손을 놓고 '너무 어렵다'라고 외고 있어서는 안 된다"라며 "이번 문서는 판도를 바꾸는 동시에 바람직한 방향으로 이동하도록 하는 첫걸음이다. 그 동안 기술이 사회적 영향으로부터 분리되는 것을 암묵적으로 용인했던 전문화의 보호벽을 깨드리는 것이기 때문이다"라고 덧붙였다.

칼보는 또 이번 문서의 함의 중 하나는 지능형 시스템 개발에 관련된 이들이 장차 초래될 결에 대해 책임을 지도록 하는 것이라고 전했다.

그는 "미래의 기술 리더들에게 비기술적인 영향에 대해서도 책임을 지도록 요구하게 될 것이다. 선의의 집단, 프라이버시와 정의, 물리적이고 정신적 건강, 편견과 도덕적 함의에 이르는 영향들이다. 이번 문서는 기술이 인류와 지구에 긍정적인 혜택을 주도록 보장하려는 방향으로의 긍정적인 진일보다"라고 말했다.

IEEE는 그러나'윤리적 정렬 디자인'이 행동 지침이나 윤리에 대한 전문 지침이 아니라고 선을 그었다.

이 단체는 "목표는 자율 및 인텔리전트 시스템에 대한 막연한 두려움이나 각광을 넘어서도록 하는 것이다"라며 기술 전문가들이 윤리적 고려 사항을 우선순위화할 수 있도록 교육과 훈련, 역량을 제공하고자 한다고 전했다.

IEEE는 "기술을 윤리적 가치와 정렬함으로써 이러한 새로운 도구가 혁신에 일조하는 한편 그 과정에서 나타나는 두려움을 줄일 수 있을 것으로 믿는다"라고 밝혔다. ciokr@idg.co.kr 

X