Offcanvas

���������������

'AI 설명가능성' 도구에서 고려해야 할 4가지

최근까지 ‘설명가능성(Explainability)’은 주로 AI 모델 개발 프로세스 말미에서 중요하지만 범위는 좁은 요건으로 여겨졌다. 하지만 이제 설명가능성이 머신러닝 생애주기에 걸쳐 가치를 제공하는 다층적 요건으로 간주되고 있다.  또한 설명가능성 도구는 머신러닝 모델의 의사결정 방식에 관한 투명성을 제공하는 것 외에도 범용성, 공정성, 개념 건전성, 안전성 등 머신러닝 모델의 품질에 대한 폭넓은 평가도 실행하고 있다.    설명가능성의 중요성이 커지면서 머신러닝을 대규모로 도입하려는 조직, 특히 위험 부담이 높거나 엄격한 규제를 받는 사용사례가 있는 조직은 설명가능성 접근방식 및 솔루션의 품질에 한층 더 주의를 기울여야 한다.  설명가능성 문제를 해결하기 위해 사용할 수 있는 많은 오픈소스 옵션이 있다. 하지만 이들 도구를 결합해서 일관성 있는 엔터프라이즈급 솔루션으로 만들어 내는 일은 어렵다. 모델 및 개발 플랫폼에서 우수한 성능을 발휘해야 하며 일관성과 범용성을 갖춰야 하기 때문이다.  엔터프라이즈급 설명가능성 솔루션이 충족해야 할 4가지 핵심 테스트는 다음과 같다. 1. 사안의 결과를 설명하는가? 2. 내부적으로 일관성이 있는가? 3. 대규모로 안정적인 수행이 가능한가? 4. 빠르게 변화하는 기대치를 충족할 수 있는가? 사안의 결과를 설명하는가? 머신러닝 모델이 대출, 입사, 입학 등 사람들의 삶에서 중요한 결과를 결정하거나 영향을 미치는 데 점점 더 많이 사용되고 있다. 이에 따라 설명가능성 접근방식이 머신러닝 모델의 의사결정에 관해 확실하고 신뢰할 수 있을 만한 설명을 제공하는 게 중요해졌다.  분류 결정(예: 예/아니오)을 설명하는 것은 확률 결과나 모델 위험 점수를 설명하는 것과는 크게 다르다. 예를 들어 “제인은 왜 대출을 거절당했을까?”는 “제인은 왜 0.63점의 위험 점수를 받았는가?”와 근본적으로 다른 질문이다.  이를테면 ‘TreeSHAP’와 같은 조건부 ...

인공지능 머신러닝 AI ML 머신러닝 모델 설명가능성 설명가능한 AI 투명성 AI 편향 오픈소스

2021.04.05

최근까지 ‘설명가능성(Explainability)’은 주로 AI 모델 개발 프로세스 말미에서 중요하지만 범위는 좁은 요건으로 여겨졌다. 하지만 이제 설명가능성이 머신러닝 생애주기에 걸쳐 가치를 제공하는 다층적 요건으로 간주되고 있다.  또한 설명가능성 도구는 머신러닝 모델의 의사결정 방식에 관한 투명성을 제공하는 것 외에도 범용성, 공정성, 개념 건전성, 안전성 등 머신러닝 모델의 품질에 대한 폭넓은 평가도 실행하고 있다.    설명가능성의 중요성이 커지면서 머신러닝을 대규모로 도입하려는 조직, 특히 위험 부담이 높거나 엄격한 규제를 받는 사용사례가 있는 조직은 설명가능성 접근방식 및 솔루션의 품질에 한층 더 주의를 기울여야 한다.  설명가능성 문제를 해결하기 위해 사용할 수 있는 많은 오픈소스 옵션이 있다. 하지만 이들 도구를 결합해서 일관성 있는 엔터프라이즈급 솔루션으로 만들어 내는 일은 어렵다. 모델 및 개발 플랫폼에서 우수한 성능을 발휘해야 하며 일관성과 범용성을 갖춰야 하기 때문이다.  엔터프라이즈급 설명가능성 솔루션이 충족해야 할 4가지 핵심 테스트는 다음과 같다. 1. 사안의 결과를 설명하는가? 2. 내부적으로 일관성이 있는가? 3. 대규모로 안정적인 수행이 가능한가? 4. 빠르게 변화하는 기대치를 충족할 수 있는가? 사안의 결과를 설명하는가? 머신러닝 모델이 대출, 입사, 입학 등 사람들의 삶에서 중요한 결과를 결정하거나 영향을 미치는 데 점점 더 많이 사용되고 있다. 이에 따라 설명가능성 접근방식이 머신러닝 모델의 의사결정에 관해 확실하고 신뢰할 수 있을 만한 설명을 제공하는 게 중요해졌다.  분류 결정(예: 예/아니오)을 설명하는 것은 확률 결과나 모델 위험 점수를 설명하는 것과는 크게 다르다. 예를 들어 “제인은 왜 대출을 거절당했을까?”는 “제인은 왜 0.63점의 위험 점수를 받았는가?”와 근본적으로 다른 질문이다.  이를테면 ‘TreeSHAP’와 같은 조건부 ...

2021.04.05

마냥 웃을 순 없다··· AI 그리고 ML 프로젝트, 얼마나 '안전'한가? 

인공지능과 머신러닝은 많은 이점을 제공한다. 하지만 동시에 새로운 취약점을 가져오기도 한다. 이러한 위험을 최소화할 방법을 살펴본다.  신기술을 도입할 때 보안을 뒷전으로 미루는 경우가 많다. 새로운 제품이나 서비스를 최대한 빠르게, 그리고 저렴하게 선보이는 게 더 중요하다고 판단해서다. 게다가 ‘완벽한 보안’은 시간이 오래 걸리고 비용도 많이 든다.  인공지능(AI)과 머신러닝(ML) 역시 보안 취약점이 있다. 이전의 기술 발전과 유사한 취약점과 설정 오류를 보이기도 하고, 이들만의 고유한 보안 위험이 있기도 하다.  만약 AI 중심 디지털 트랜스포메이션을 추진한다면 기업은 이러한 위험을 직면하게 될 가능성이 크다. 美 IT 컨설팅 회사 부즈 앨런 해밀턴(Booz Allen Hamilton)의 수석 과학자 에드워드 라프는 “서둘러선 안 되는 영역이다”라고 말했다.   AI와 ML은 다른 기술보다 더 많고 복잡한 데이터도 필요하다. 따라서 수학자와 데이터 과학자들이 개발한 알고리즘은 학문적인 연구 프로젝트에서 시작되는 경우가 많다. 라프는 “최근에서야 연구진들은 AI에 보안 문제가 있다는 것을 알게 됐다”라고 언급했다.  아울러 이들의 용량 및 처리 요건은 또 다른 수준의 복잡성과 취약점을 추가한다. 클라우드 플랫폼이 워크로드를 처리하는 경우가 많기 때문이다. 정리하자면, AI 도입에 있어 사이버보안이 가장 우려되는 위험인 것은 당연하다.  2020년 7월 발표된 딜로이트(Deloitte)의 한 보고서에 따르면 AI를 도입한 기업 가운데 62%가 사이버보안 위험을 가장 큰 혹은 주요 위험으로 보고 있지만, 이 위험을 해결할 준비가 됐다고 답한 기업은 39%에 불과했다. 이 문제를 더욱더 복잡하게 만드는 것은 사이버보안 자체에서 AI가 많이 사용된다는 점이다. 따라서 AI 경험이 풍부해질수록 기업들은 사이버보안 위험을 더 걱정한다고 딜로이트의 기술, 미디어, 통신 부문 전무이사 제프 룩스는 전했...

인공지능 머신러닝 AI ML 보안 보안 취약점 사이버보안 디지털 트랜스포메이션 데이터 과학 딜로이트 데이터 보호 전도 공격 설명가능성 블랙박스 AI 데이터 포이즈닝 편향 모델 드리프트 클라우드

2020.11.30

인공지능과 머신러닝은 많은 이점을 제공한다. 하지만 동시에 새로운 취약점을 가져오기도 한다. 이러한 위험을 최소화할 방법을 살펴본다.  신기술을 도입할 때 보안을 뒷전으로 미루는 경우가 많다. 새로운 제품이나 서비스를 최대한 빠르게, 그리고 저렴하게 선보이는 게 더 중요하다고 판단해서다. 게다가 ‘완벽한 보안’은 시간이 오래 걸리고 비용도 많이 든다.  인공지능(AI)과 머신러닝(ML) 역시 보안 취약점이 있다. 이전의 기술 발전과 유사한 취약점과 설정 오류를 보이기도 하고, 이들만의 고유한 보안 위험이 있기도 하다.  만약 AI 중심 디지털 트랜스포메이션을 추진한다면 기업은 이러한 위험을 직면하게 될 가능성이 크다. 美 IT 컨설팅 회사 부즈 앨런 해밀턴(Booz Allen Hamilton)의 수석 과학자 에드워드 라프는 “서둘러선 안 되는 영역이다”라고 말했다.   AI와 ML은 다른 기술보다 더 많고 복잡한 데이터도 필요하다. 따라서 수학자와 데이터 과학자들이 개발한 알고리즘은 학문적인 연구 프로젝트에서 시작되는 경우가 많다. 라프는 “최근에서야 연구진들은 AI에 보안 문제가 있다는 것을 알게 됐다”라고 언급했다.  아울러 이들의 용량 및 처리 요건은 또 다른 수준의 복잡성과 취약점을 추가한다. 클라우드 플랫폼이 워크로드를 처리하는 경우가 많기 때문이다. 정리하자면, AI 도입에 있어 사이버보안이 가장 우려되는 위험인 것은 당연하다.  2020년 7월 발표된 딜로이트(Deloitte)의 한 보고서에 따르면 AI를 도입한 기업 가운데 62%가 사이버보안 위험을 가장 큰 혹은 주요 위험으로 보고 있지만, 이 위험을 해결할 준비가 됐다고 답한 기업은 39%에 불과했다. 이 문제를 더욱더 복잡하게 만드는 것은 사이버보안 자체에서 AI가 많이 사용된다는 점이다. 따라서 AI 경험이 풍부해질수록 기업들은 사이버보안 위험을 더 걱정한다고 딜로이트의 기술, 미디어, 통신 부문 전무이사 제프 룩스는 전했...

2020.11.30

"호주 기업 56%가 4차 산업혁명 준비 부족" KPMG 발표

글로벌 컨설팅사 KPMG 디지털 델타에 따르면, 기술 변화에 대한 호주 기업들의 준비가 미흡한 것으로 나타났다.  KPMG 디지털 델타가 4차 산업혁명 벤치마크 보고서(4th Industrial Revolution Benchmark Report)를 20일 공개했다. KPMG 디지털 델타는 글로벌 분석 플랫폼 페이덤(Faethm)과 협력해 호주의 비즈니스 리더 198명을 대상으로 설문을 진행했다. AI, RPA, IoT와 같은 최신 기술에 대한 조직의 이해 수준과 활용도를 조사하기 위한 목적이었다.  보고서에 따르면 절반 이상의 비즈니스 리더들이 기술에 대한 깊은 이해나 경험이 부족한 것으로 드러났다. 전체 응답자 중 47%가 기술 지식이 ‘거의’ 없었으며, 9%는 기술에 대해 ‘전혀’ 들어본 적도 없었다고 말했다.    절반 이하(46%)의 비즈니스 리더가 기술 변화에 자사의 조직이 강력하게 대비하고 있다고 답했다. 응답자들은 평균적으로 조직이 채택한 4차 산업혁명 기술의 성숙도(5점 척도)를 3점 이하로 평가했다.  KPMG 디지털 델타 파트너인 피어스 호가스 스콧은 “AI, 로봇공학, 자동화 및 머신러닝 등의 기술이 발전하고 사용이 확대되며 그 효과가 커지고 있다. 이에 따라 우리가 생활하고 일하고 관계를 맺는 방식들이 근본적으로 변화하고 있다”라고 말했다.  이어서 그는 “호주 기업들의 준비 부족 상태가 우려된다. 변화는 이미 진행 중이며, 비즈니스 리더들이 최신 기술을 이해하고, 이를 활용하여 경쟁력을 유지할 수 있는 방법을 알아야 한다”라고 지적했다.  EY 웨비나가 호주에서 실시한 최근 여론조사에 따르면, 이러한 기술과 변화에 관한 준비 부족이 AI 신뢰성 때문일 수도 있다는 관측이 제기됐다. 일부 기업들이 AI의 투명성과 설명 가능성에 대한 우려로 AI를 신뢰하지 않거나 잠재적인 편견을 가지고 있다고 해당 보고서는 전했다. 또한 보고서는 AI의 신뢰성을 높이는 데 있어 가장...

생산성 설명가능성 기술 변화 업스킬링 리스킬링 4차 산업혁명 RPA 로봇공학 머신러닝 IoT 사물인터넷 투명성 자동화 고객 경험 인공지능 평생학습

2020.02.25

글로벌 컨설팅사 KPMG 디지털 델타에 따르면, 기술 변화에 대한 호주 기업들의 준비가 미흡한 것으로 나타났다.  KPMG 디지털 델타가 4차 산업혁명 벤치마크 보고서(4th Industrial Revolution Benchmark Report)를 20일 공개했다. KPMG 디지털 델타는 글로벌 분석 플랫폼 페이덤(Faethm)과 협력해 호주의 비즈니스 리더 198명을 대상으로 설문을 진행했다. AI, RPA, IoT와 같은 최신 기술에 대한 조직의 이해 수준과 활용도를 조사하기 위한 목적이었다.  보고서에 따르면 절반 이상의 비즈니스 리더들이 기술에 대한 깊은 이해나 경험이 부족한 것으로 드러났다. 전체 응답자 중 47%가 기술 지식이 ‘거의’ 없었으며, 9%는 기술에 대해 ‘전혀’ 들어본 적도 없었다고 말했다.    절반 이하(46%)의 비즈니스 리더가 기술 변화에 자사의 조직이 강력하게 대비하고 있다고 답했다. 응답자들은 평균적으로 조직이 채택한 4차 산업혁명 기술의 성숙도(5점 척도)를 3점 이하로 평가했다.  KPMG 디지털 델타 파트너인 피어스 호가스 스콧은 “AI, 로봇공학, 자동화 및 머신러닝 등의 기술이 발전하고 사용이 확대되며 그 효과가 커지고 있다. 이에 따라 우리가 생활하고 일하고 관계를 맺는 방식들이 근본적으로 변화하고 있다”라고 말했다.  이어서 그는 “호주 기업들의 준비 부족 상태가 우려된다. 변화는 이미 진행 중이며, 비즈니스 리더들이 최신 기술을 이해하고, 이를 활용하여 경쟁력을 유지할 수 있는 방법을 알아야 한다”라고 지적했다.  EY 웨비나가 호주에서 실시한 최근 여론조사에 따르면, 이러한 기술과 변화에 관한 준비 부족이 AI 신뢰성 때문일 수도 있다는 관측이 제기됐다. 일부 기업들이 AI의 투명성과 설명 가능성에 대한 우려로 AI를 신뢰하지 않거나 잠재적인 편견을 가지고 있다고 해당 보고서는 전했다. 또한 보고서는 AI의 신뢰성을 높이는 데 있어 가장...

2020.02.25

IDG 설문조사

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.6