Offcanvas

AI ������

'AI 설명가능성' 도구에서 고려해야 할 4가지

최근까지 ‘설명가능성(Explainability)’은 주로 AI 모델 개발 프로세스 말미에서 중요하지만 범위는 좁은 요건으로 여겨졌다. 하지만 이제 설명가능성이 머신러닝 생애주기에 걸쳐 가치를 제공하는 다층적 요건으로 간주되고 있다.  또한 설명가능성 도구는 머신러닝 모델의 의사결정 방식에 관한 투명성을 제공하는 것 외에도 범용성, 공정성, 개념 건전성, 안전성 등 머신러닝 모델의 품질에 대한 폭넓은 평가도 실행하고 있다.    설명가능성의 중요성이 커지면서 머신러닝을 대규모로 도입하려는 조직, 특히 위험 부담이 높거나 엄격한 규제를 받는 사용사례가 있는 조직은 설명가능성 접근방식 및 솔루션의 품질에 한층 더 주의를 기울여야 한다.  설명가능성 문제를 해결하기 위해 사용할 수 있는 많은 오픈소스 옵션이 있다. 하지만 이들 도구를 결합해서 일관성 있는 엔터프라이즈급 솔루션으로 만들어 내는 일은 어렵다. 모델 및 개발 플랫폼에서 우수한 성능을 발휘해야 하며 일관성과 범용성을 갖춰야 하기 때문이다.  엔터프라이즈급 설명가능성 솔루션이 충족해야 할 4가지 핵심 테스트는 다음과 같다. 1. 사안의 결과를 설명하는가? 2. 내부적으로 일관성이 있는가? 3. 대규모로 안정적인 수행이 가능한가? 4. 빠르게 변화하는 기대치를 충족할 수 있는가? 사안의 결과를 설명하는가? 머신러닝 모델이 대출, 입사, 입학 등 사람들의 삶에서 중요한 결과를 결정하거나 영향을 미치는 데 점점 더 많이 사용되고 있다. 이에 따라 설명가능성 접근방식이 머신러닝 모델의 의사결정에 관해 확실하고 신뢰할 수 있을 만한 설명을 제공하는 게 중요해졌다.  분류 결정(예: 예/아니오)을 설명하는 것은 확률 결과나 모델 위험 점수를 설명하는 것과는 크게 다르다. 예를 들어 “제인은 왜 대출을 거절당했을까?”는 “제인은 왜 0.63점의 위험 점수를 받았는가?”와 근본적으로 다른 질문이다.  이를테면 ‘TreeSHAP’와 같은 조건부 ...

인공지능 머신러닝 AI ML 머신러닝 모델 설명가능성 설명가능한 AI 투명성 AI 편향 오픈소스

2021.04.05

최근까지 ‘설명가능성(Explainability)’은 주로 AI 모델 개발 프로세스 말미에서 중요하지만 범위는 좁은 요건으로 여겨졌다. 하지만 이제 설명가능성이 머신러닝 생애주기에 걸쳐 가치를 제공하는 다층적 요건으로 간주되고 있다.  또한 설명가능성 도구는 머신러닝 모델의 의사결정 방식에 관한 투명성을 제공하는 것 외에도 범용성, 공정성, 개념 건전성, 안전성 등 머신러닝 모델의 품질에 대한 폭넓은 평가도 실행하고 있다.    설명가능성의 중요성이 커지면서 머신러닝을 대규모로 도입하려는 조직, 특히 위험 부담이 높거나 엄격한 규제를 받는 사용사례가 있는 조직은 설명가능성 접근방식 및 솔루션의 품질에 한층 더 주의를 기울여야 한다.  설명가능성 문제를 해결하기 위해 사용할 수 있는 많은 오픈소스 옵션이 있다. 하지만 이들 도구를 결합해서 일관성 있는 엔터프라이즈급 솔루션으로 만들어 내는 일은 어렵다. 모델 및 개발 플랫폼에서 우수한 성능을 발휘해야 하며 일관성과 범용성을 갖춰야 하기 때문이다.  엔터프라이즈급 설명가능성 솔루션이 충족해야 할 4가지 핵심 테스트는 다음과 같다. 1. 사안의 결과를 설명하는가? 2. 내부적으로 일관성이 있는가? 3. 대규모로 안정적인 수행이 가능한가? 4. 빠르게 변화하는 기대치를 충족할 수 있는가? 사안의 결과를 설명하는가? 머신러닝 모델이 대출, 입사, 입학 등 사람들의 삶에서 중요한 결과를 결정하거나 영향을 미치는 데 점점 더 많이 사용되고 있다. 이에 따라 설명가능성 접근방식이 머신러닝 모델의 의사결정에 관해 확실하고 신뢰할 수 있을 만한 설명을 제공하는 게 중요해졌다.  분류 결정(예: 예/아니오)을 설명하는 것은 확률 결과나 모델 위험 점수를 설명하는 것과는 크게 다르다. 예를 들어 “제인은 왜 대출을 거절당했을까?”는 “제인은 왜 0.63점의 위험 점수를 받았는가?”와 근본적으로 다른 질문이다.  이를테면 ‘TreeSHAP’와 같은 조건부 ...

2021.04.05

미리 써보고 산다··· AI 기술 마켓플레이스 등장 ‘눈길’

‘인공지능(AI)’이 상품화되는 길목에 들어선 듯하다. 이를테면 석유, 금, 밀가루, 목화, 설탕 등의 상품과 똑같진 않더라도 AI를 거래할 수 있어서다. 그리고 이렇게 AI를 사고파는 새로운 마켓플레이스를 위한 전용 네트워크가 구축되고 있는 중이다.  데이터의 경우 이미 거래가 이뤄지고 있다. 예를 들면 다웩스(Dawex)와 같은 데이터 거래 플랫폼 회사는 기업들이 서로의 익명화된 데이터세트를 사용할 수 있도록 해주는 플랫폼 및 도구를 전문적으로 제공하고 있다.  일단 데이터세트 내 개인식별정보를 올바르게 마스킹하면 다른 기업에서 데이터 패턴을 관찰할 수 있고, 이를 자체 비즈니스 의사결정의 레퍼런스 템플릿으로 사용할 수 있다.    ‘살균(Sterilize)’하고 ‘위생 처리(Sanitize)’한 다음 공유하라 AI에서도 비슷한 일이 일어나고 있다. 한 기업이 비즈니스 문제를 해결하기 위해 AI 엔진 또는 더 작은 인공신경망 노드를 개발한다면, 다른 기업에서 동일한 도구를 사용할 수 있지 않을까? 이론상으로는 일단 ‘살균 및 위생 처리’를 거친다면 이러한 AI 도구를 다른 시스템에 접목할 수 있을 것이다.  그렇다면 AI를 사고파는 상품으로 만들고자 구성요소를 분류하고 생산하기 시작하려면 무엇을 선행해야 할까? 비즈니스 용어로 말하자면 이는 문서 관리, 워크플로우 분석 및 프로세스 마이닝, 태스크 마이닝 등 매우 기본적인 관행으로 귀결되는 경우가 많다.  광학문자인식(OCR) 기술 전문 회사 애비(Abbyy)는 이제 스스로를 디지털 인텔리전스 기업으로 지칭한다. 애비가 이렇게 거창한 이름을 붙인 이유는 지난 10년 동안 더 높은 수준의 소프트웨어 기능을 ‘자사 솔루션’에 적용하기 위해 기울인 온갖 노력 때문이다.  애비는 최근 온라인에서 열린 사용자 컨퍼런스에서 자사의 ‘밴티지 2(Vantage 2)’ 소프트웨어를 상세히 설명했다. 회사에 따르면 밴티지 2는 문서 및 콘텐츠에서 필요...

인공지능 AI 데이터 데이터 거래 데이터 교환 데이터세트 광학문자인식 OCR 비즈니스 인텔리전스 BI 비즈니스 의사결정 IBM AI 편향 재현 데이터 시민 AI 시민 개발자 로우코드 노코드

2021.03.31

‘인공지능(AI)’이 상품화되는 길목에 들어선 듯하다. 이를테면 석유, 금, 밀가루, 목화, 설탕 등의 상품과 똑같진 않더라도 AI를 거래할 수 있어서다. 그리고 이렇게 AI를 사고파는 새로운 마켓플레이스를 위한 전용 네트워크가 구축되고 있는 중이다.  데이터의 경우 이미 거래가 이뤄지고 있다. 예를 들면 다웩스(Dawex)와 같은 데이터 거래 플랫폼 회사는 기업들이 서로의 익명화된 데이터세트를 사용할 수 있도록 해주는 플랫폼 및 도구를 전문적으로 제공하고 있다.  일단 데이터세트 내 개인식별정보를 올바르게 마스킹하면 다른 기업에서 데이터 패턴을 관찰할 수 있고, 이를 자체 비즈니스 의사결정의 레퍼런스 템플릿으로 사용할 수 있다.    ‘살균(Sterilize)’하고 ‘위생 처리(Sanitize)’한 다음 공유하라 AI에서도 비슷한 일이 일어나고 있다. 한 기업이 비즈니스 문제를 해결하기 위해 AI 엔진 또는 더 작은 인공신경망 노드를 개발한다면, 다른 기업에서 동일한 도구를 사용할 수 있지 않을까? 이론상으로는 일단 ‘살균 및 위생 처리’를 거친다면 이러한 AI 도구를 다른 시스템에 접목할 수 있을 것이다.  그렇다면 AI를 사고파는 상품으로 만들고자 구성요소를 분류하고 생산하기 시작하려면 무엇을 선행해야 할까? 비즈니스 용어로 말하자면 이는 문서 관리, 워크플로우 분석 및 프로세스 마이닝, 태스크 마이닝 등 매우 기본적인 관행으로 귀결되는 경우가 많다.  광학문자인식(OCR) 기술 전문 회사 애비(Abbyy)는 이제 스스로를 디지털 인텔리전스 기업으로 지칭한다. 애비가 이렇게 거창한 이름을 붙인 이유는 지난 10년 동안 더 높은 수준의 소프트웨어 기능을 ‘자사 솔루션’에 적용하기 위해 기울인 온갖 노력 때문이다.  애비는 최근 온라인에서 열린 사용자 컨퍼런스에서 자사의 ‘밴티지 2(Vantage 2)’ 소프트웨어를 상세히 설명했다. 회사에 따르면 밴티지 2는 문서 및 콘텐츠에서 필요...

2021.03.31

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.5.0.5