Offcanvas

AI ������������

'AI 윤리·거버넌스 미흡'이 초래할 수 있는 비즈니스 위험 6가지

어떤 ‘터미네이터’ 영화를 봤느냐에 따라 악당 인공지능 스카이넷(Skynet)의 상황이 다를 터다. 이미 인간을 지배하고 있는 경우가 있는가 하면, 지배하려 하는 상황도 있다. 하지만 SF작가들이 그리는 우려 상황에 ‘통제되지 않는 AI’(uncontrolled AI)가 포함되는 경우는 드물다. AI 조사 및 자문 기업 에머리(Emeri)가 실시한 ‘2019년 설문조사’에서 AI 전문가 중 14%는 AI가 인간에게 ‘실존적 위협’(existential threat)이라고 응답했다. 실제로 파멸까지는 아니더라도 AI 윤리 부족은 사회와 이 AI 시스템을 도입하는 기업에 큰 위험을 야기할 수 있다. 이런 위험은 흔히 ‘AI 설명가능성’과 관련된다. 또 편향된 데이터 세트에 대한 의존성 또는 적절한 거버넌스 없이 AI 배치하기 등도 현실적인 위험 요소다. IT 리더가 회사의 AI 배치 전략을 수립할 때 고려해야 할 상황을 살펴본다.   PR(Public Relation) 재난 지난달, 마더보드(Motherboard)가 입수한 페이스북(Facebook) 문서에 따르면 페이스북은 자사의 사용자 데이터가 어떻게 사용되고 있는지 모르고 있다. 해당 문서에서 페이스북의 프라이버시 엔지니어들은 “시스템이 데이터를 사용하는 방식에 대해 적절한 수준의 통제와 설명가능성이 우리에게는 없다”라고 밝혔다. 이 문서에 따르면 현재 페이스북은 수년간 인프라에 투자하지 않고 해결할 수 없는 ‘인바운드(Inbound) 규정의 쓰나미’에 직면하고 있다. “이것은 새로운 규제 영역이며 우리는 앞으로 몇 년 동안 낯선 요구사항을 보게 될 가능성이 높다. 우리는 우리의 솔루션이 충분할 것이라는 자신감이 매우 부족하다”라고 문서에 기술돼 있다. 적절한 데이터 거버넌스 없이 AI를 배치한 기업에 어떤 문제가 있을 수 있는지를 보여주는 이 사건은 최근 AI 관련 PR 재난 중 하나에 불과하다. 2014년, 아마존은 압도적으로 남성 후보자를 선호하는 AI 기반 채용 소프트웨어를 개...

AI 윤리 AI 거버넌스 GDPR AI 재난 AI 규제 ESG 설명 가능한 AI

2022.05.19

어떤 ‘터미네이터’ 영화를 봤느냐에 따라 악당 인공지능 스카이넷(Skynet)의 상황이 다를 터다. 이미 인간을 지배하고 있는 경우가 있는가 하면, 지배하려 하는 상황도 있다. 하지만 SF작가들이 그리는 우려 상황에 ‘통제되지 않는 AI’(uncontrolled AI)가 포함되는 경우는 드물다. AI 조사 및 자문 기업 에머리(Emeri)가 실시한 ‘2019년 설문조사’에서 AI 전문가 중 14%는 AI가 인간에게 ‘실존적 위협’(existential threat)이라고 응답했다. 실제로 파멸까지는 아니더라도 AI 윤리 부족은 사회와 이 AI 시스템을 도입하는 기업에 큰 위험을 야기할 수 있다. 이런 위험은 흔히 ‘AI 설명가능성’과 관련된다. 또 편향된 데이터 세트에 대한 의존성 또는 적절한 거버넌스 없이 AI 배치하기 등도 현실적인 위험 요소다. IT 리더가 회사의 AI 배치 전략을 수립할 때 고려해야 할 상황을 살펴본다.   PR(Public Relation) 재난 지난달, 마더보드(Motherboard)가 입수한 페이스북(Facebook) 문서에 따르면 페이스북은 자사의 사용자 데이터가 어떻게 사용되고 있는지 모르고 있다. 해당 문서에서 페이스북의 프라이버시 엔지니어들은 “시스템이 데이터를 사용하는 방식에 대해 적절한 수준의 통제와 설명가능성이 우리에게는 없다”라고 밝혔다. 이 문서에 따르면 현재 페이스북은 수년간 인프라에 투자하지 않고 해결할 수 없는 ‘인바운드(Inbound) 규정의 쓰나미’에 직면하고 있다. “이것은 새로운 규제 영역이며 우리는 앞으로 몇 년 동안 낯선 요구사항을 보게 될 가능성이 높다. 우리는 우리의 솔루션이 충분할 것이라는 자신감이 매우 부족하다”라고 문서에 기술돼 있다. 적절한 데이터 거버넌스 없이 AI를 배치한 기업에 어떤 문제가 있을 수 있는지를 보여주는 이 사건은 최근 AI 관련 PR 재난 중 하나에 불과하다. 2014년, 아마존은 압도적으로 남성 후보자를 선호하는 AI 기반 채용 소프트웨어를 개...

2022.05.19

'AI 프로젝트를 수렁으로 이끄는' 7가지 흔한 이유

어디서부터 잘못된 것일까? AI를 도입한 많은 기업들이 흔한 실수를 저지른다. 여기 AI를 제 궤도에 올려놓을 수 있는 조언들을 정리했다.       인공지능(AI)은 생산성과 비즈니스 민첩성, 고객 만족을 높이는 데 도움을 줄 수 있다. 새 제품 및 서비스의 출시 시간을 앞당길 수도 있다. 그러나 IT리더가 AI 과학을 추구하면서 성공보다는 실망을 경험하는 경우가 많아지고 있다. 예를 들어 2020년 IDC연구에서는 28%의 AI 및 머신러닝(ML) 프로젝트가 실패한 것으로 나타났다. 효과적인 AI 전략을 수립하는 데에는 신중한 계획, 정확히 정의된 목표, 강력한 경영진의 의지와 함께 흔한 실수를 능숙하게 회피하는 능력이 필요하다. 기존의 AI 전략이 기대치 달성에 실패하고 있다면 아마 아래의 7가지 이유 중 하나 때문일 가능성이 높다.    불충분한 직원 교육  AI의 성공적 전개에 있어 주요 걸림돌 중 하나는 단연 이용자와 관련된 것이다. 페퍼다인 대학교 그래지아디오 경영대학원의 정보시스템 및 기술운영 교수인 찰라 그리피-브라운은 “직원에게 AI 솔루션 이용 교육을 하지 않는다면 AI는 성장하지 못할 것이다” 라고 말했다.  이어 그는, 단순히 교육 차원을 넘어, “정책을 갱신해야 하고, 단순한 기술 지원 뿐 아니라 업무 지원도 배치되어 있어야 한다”라고 덧붙였다.  IT리더는 인력이 신기술로 작업할 수 있도록 적절히 교육시켜야 한다고 세계적인 IT 컨설팅 회사인 인포시스의 사장인 래비 쿠마르가 말했다. 그는 “단순히 AI를 소비하는 것이 아니라 이와 함께 작업할 수 있도록 팀을 교육시키고 무장시킬 수 있는 계획이 마련되어 있어야 한다”라고 말했다. 즉 AI가 인간의 노력을 요구한다는 발상은 처음부터 이니셔티브에 각인되어 있어야 한다. 그리피-브라운은 “이는 AI 자체보다 전개하기가 더 어려울 수 있다”라고 말했다.  거버넌스의 부재 또는 부적합 ...

AI 프로젝트 AI 전략 AI 거버넌스 AI 모니터링

2020.12.21

어디서부터 잘못된 것일까? AI를 도입한 많은 기업들이 흔한 실수를 저지른다. 여기 AI를 제 궤도에 올려놓을 수 있는 조언들을 정리했다.       인공지능(AI)은 생산성과 비즈니스 민첩성, 고객 만족을 높이는 데 도움을 줄 수 있다. 새 제품 및 서비스의 출시 시간을 앞당길 수도 있다. 그러나 IT리더가 AI 과학을 추구하면서 성공보다는 실망을 경험하는 경우가 많아지고 있다. 예를 들어 2020년 IDC연구에서는 28%의 AI 및 머신러닝(ML) 프로젝트가 실패한 것으로 나타났다. 효과적인 AI 전략을 수립하는 데에는 신중한 계획, 정확히 정의된 목표, 강력한 경영진의 의지와 함께 흔한 실수를 능숙하게 회피하는 능력이 필요하다. 기존의 AI 전략이 기대치 달성에 실패하고 있다면 아마 아래의 7가지 이유 중 하나 때문일 가능성이 높다.    불충분한 직원 교육  AI의 성공적 전개에 있어 주요 걸림돌 중 하나는 단연 이용자와 관련된 것이다. 페퍼다인 대학교 그래지아디오 경영대학원의 정보시스템 및 기술운영 교수인 찰라 그리피-브라운은 “직원에게 AI 솔루션 이용 교육을 하지 않는다면 AI는 성장하지 못할 것이다” 라고 말했다.  이어 그는, 단순히 교육 차원을 넘어, “정책을 갱신해야 하고, 단순한 기술 지원 뿐 아니라 업무 지원도 배치되어 있어야 한다”라고 덧붙였다.  IT리더는 인력이 신기술로 작업할 수 있도록 적절히 교육시켜야 한다고 세계적인 IT 컨설팅 회사인 인포시스의 사장인 래비 쿠마르가 말했다. 그는 “단순히 AI를 소비하는 것이 아니라 이와 함께 작업할 수 있도록 팀을 교육시키고 무장시킬 수 있는 계획이 마련되어 있어야 한다”라고 말했다. 즉 AI가 인간의 노력을 요구한다는 발상은 처음부터 이니셔티브에 각인되어 있어야 한다. 그리피-브라운은 “이는 AI 자체보다 전개하기가 더 어려울 수 있다”라고 말했다.  거버넌스의 부재 또는 부적합 ...

2020.12.21

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.31