Offcanvas

AI ������

'AI 윤리·거버넌스 미흡'이 초래할 수 있는 비즈니스 위험 6가지

어떤 ‘터미네이터’ 영화를 봤느냐에 따라 악당 인공지능 스카이넷(Skynet)의 상황이 다를 터다. 이미 인간을 지배하고 있는 경우가 있는가 하면, 지배하려 하는 상황도 있다. 하지만 SF작가들이 그리는 우려 상황에 ‘통제되지 않는 AI’(uncontrolled AI)가 포함되는 경우는 드물다. AI 조사 및 자문 기업 에머리(Emeri)가 실시한 ‘2019년 설문조사’에서 AI 전문가 중 14%는 AI가 인간에게 ‘실존적 위협’(existential threat)이라고 응답했다. 실제로 파멸까지는 아니더라도 AI 윤리 부족은 사회와 이 AI 시스템을 도입하는 기업에 큰 위험을 야기할 수 있다. 이런 위험은 흔히 ‘AI 설명가능성’과 관련된다. 또 편향된 데이터 세트에 대한 의존성 또는 적절한 거버넌스 없이 AI 배치하기 등도 현실적인 위험 요소다. IT 리더가 회사의 AI 배치 전략을 수립할 때 고려해야 할 상황을 살펴본다.   PR(Public Relation) 재난 지난달, 마더보드(Motherboard)가 입수한 페이스북(Facebook) 문서에 따르면 페이스북은 자사의 사용자 데이터가 어떻게 사용되고 있는지 모르고 있다. 해당 문서에서 페이스북의 프라이버시 엔지니어들은 “시스템이 데이터를 사용하는 방식에 대해 적절한 수준의 통제와 설명가능성이 우리에게는 없다”라고 밝혔다. 이 문서에 따르면 현재 페이스북은 수년간 인프라에 투자하지 않고 해결할 수 없는 ‘인바운드(Inbound) 규정의 쓰나미’에 직면하고 있다. “이것은 새로운 규제 영역이며 우리는 앞으로 몇 년 동안 낯선 요구사항을 보게 될 가능성이 높다. 우리는 우리의 솔루션이 충분할 것이라는 자신감이 매우 부족하다”라고 문서에 기술돼 있다. 적절한 데이터 거버넌스 없이 AI를 배치한 기업에 어떤 문제가 있을 수 있는지를 보여주는 이 사건은 최근 AI 관련 PR 재난 중 하나에 불과하다. 2014년, 아마존은 압도적으로 남성 후보자를 선호하는 AI 기반 채용 소프트웨어를 개...

AI 윤리 AI 거버넌스 GDPR AI 재난 AI 규제 ESG 설명 가능한 AI

2022.05.19

어떤 ‘터미네이터’ 영화를 봤느냐에 따라 악당 인공지능 스카이넷(Skynet)의 상황이 다를 터다. 이미 인간을 지배하고 있는 경우가 있는가 하면, 지배하려 하는 상황도 있다. 하지만 SF작가들이 그리는 우려 상황에 ‘통제되지 않는 AI’(uncontrolled AI)가 포함되는 경우는 드물다. AI 조사 및 자문 기업 에머리(Emeri)가 실시한 ‘2019년 설문조사’에서 AI 전문가 중 14%는 AI가 인간에게 ‘실존적 위협’(existential threat)이라고 응답했다. 실제로 파멸까지는 아니더라도 AI 윤리 부족은 사회와 이 AI 시스템을 도입하는 기업에 큰 위험을 야기할 수 있다. 이런 위험은 흔히 ‘AI 설명가능성’과 관련된다. 또 편향된 데이터 세트에 대한 의존성 또는 적절한 거버넌스 없이 AI 배치하기 등도 현실적인 위험 요소다. IT 리더가 회사의 AI 배치 전략을 수립할 때 고려해야 할 상황을 살펴본다.   PR(Public Relation) 재난 지난달, 마더보드(Motherboard)가 입수한 페이스북(Facebook) 문서에 따르면 페이스북은 자사의 사용자 데이터가 어떻게 사용되고 있는지 모르고 있다. 해당 문서에서 페이스북의 프라이버시 엔지니어들은 “시스템이 데이터를 사용하는 방식에 대해 적절한 수준의 통제와 설명가능성이 우리에게는 없다”라고 밝혔다. 이 문서에 따르면 현재 페이스북은 수년간 인프라에 투자하지 않고 해결할 수 없는 ‘인바운드(Inbound) 규정의 쓰나미’에 직면하고 있다. “이것은 새로운 규제 영역이며 우리는 앞으로 몇 년 동안 낯선 요구사항을 보게 될 가능성이 높다. 우리는 우리의 솔루션이 충분할 것이라는 자신감이 매우 부족하다”라고 문서에 기술돼 있다. 적절한 데이터 거버넌스 없이 AI를 배치한 기업에 어떤 문제가 있을 수 있는지를 보여주는 이 사건은 최근 AI 관련 PR 재난 중 하나에 불과하다. 2014년, 아마존은 압도적으로 남성 후보자를 선호하는 AI 기반 채용 소프트웨어를 개...

2022.05.19

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.31