Offcanvas

DNN

블로그ㅣ머신러닝(ML) 모델, 가드레일이 필요하다

심층 신경망(Deep Neural Network; DNN)이 많이 사용됨에 따라 기업들은 사실상 전문 연구진조차 완전히 이해하지 못하는 기술을 점점 더 활용하고 있다. 안전하고 예측할 수 있는 운영 환경을 보장하려면 ‘가드레일’이 필요하다.  AI와 ML이 엔터프라이즈 기술 개발에서 갈수록 중요한 역할을 할 것이고, 향후 몇 년간 수많은 기업 이니셔티브를 지원할 것이라는 데 의심의 여지가 없다.  IDC에 따르면 2021년 전 세계 AI 시장(소프트웨어, 하드웨어, 서비스 포함)의 매출은 미화 약 3,418억 달러에 이를 것으로 예상됐다. 또한 연간 성장률은 18.8%를 기록해, 2024년에는 5,000억 달러를 돌파할 것으로 예측됐다. 이 밖에 오는 2026년까지 기업들의 30%는 AI/ML을 통해 도출한 인사이트를 사용하여 성과를 60%가량 향상시킬 전망이다.     하지만 이러한 낙관론에도 불구하고 ML 채택을 증가시키고 있는 ‘심층 신경망(DNN) 모델’의 숨기고 싶은 비밀이 있다. 연구진이 이 모델의 작동 방식을 정확하게 이해하지 못한다는 것이다.  IT 리더가 운영 기반을 이해하지 못한 채 기술을 적용한다면 나쁜 결과를 초래할 수 있다. 시스템이 편향되거나 예측할 수 없게 되거나 사람들이 쉽게 이해하지 못하는 결과를 도출할 수 있다는 점에서 안전하지 않을 수 있는 것이다.  머신러닝이 미션 크리티컬 애플리케이션에 적용될 때, CIO와 엔지니어링 팀은 ML이 제공할 수 있는 더 나은 결과와 나쁜 결과의 위험 사이에서 선택해야 하는 역설적인 상황에 직면하게 된다. 이는 심지어 도덕적 딜레마가 될 수도 있다. 의료 이미지를 처리하는 데 사용되는 DNN이 일반 의사보다 특정 형태의 암을 더 정확하게 인식할 수 있다고 해보자. 그 결과를 어떻게 달성하는지는 알지 못하더라도 생명을 구하는 긍정적인 효과를 가져올 수 있는 이 기술을 적용할 도덕적인 의무가 있는가? 장기적인 목표는 DNN...

머신러닝 인공지능 심층 신경망 DNN

2021.12.23

심층 신경망(Deep Neural Network; DNN)이 많이 사용됨에 따라 기업들은 사실상 전문 연구진조차 완전히 이해하지 못하는 기술을 점점 더 활용하고 있다. 안전하고 예측할 수 있는 운영 환경을 보장하려면 ‘가드레일’이 필요하다.  AI와 ML이 엔터프라이즈 기술 개발에서 갈수록 중요한 역할을 할 것이고, 향후 몇 년간 수많은 기업 이니셔티브를 지원할 것이라는 데 의심의 여지가 없다.  IDC에 따르면 2021년 전 세계 AI 시장(소프트웨어, 하드웨어, 서비스 포함)의 매출은 미화 약 3,418억 달러에 이를 것으로 예상됐다. 또한 연간 성장률은 18.8%를 기록해, 2024년에는 5,000억 달러를 돌파할 것으로 예측됐다. 이 밖에 오는 2026년까지 기업들의 30%는 AI/ML을 통해 도출한 인사이트를 사용하여 성과를 60%가량 향상시킬 전망이다.     하지만 이러한 낙관론에도 불구하고 ML 채택을 증가시키고 있는 ‘심층 신경망(DNN) 모델’의 숨기고 싶은 비밀이 있다. 연구진이 이 모델의 작동 방식을 정확하게 이해하지 못한다는 것이다.  IT 리더가 운영 기반을 이해하지 못한 채 기술을 적용한다면 나쁜 결과를 초래할 수 있다. 시스템이 편향되거나 예측할 수 없게 되거나 사람들이 쉽게 이해하지 못하는 결과를 도출할 수 있다는 점에서 안전하지 않을 수 있는 것이다.  머신러닝이 미션 크리티컬 애플리케이션에 적용될 때, CIO와 엔지니어링 팀은 ML이 제공할 수 있는 더 나은 결과와 나쁜 결과의 위험 사이에서 선택해야 하는 역설적인 상황에 직면하게 된다. 이는 심지어 도덕적 딜레마가 될 수도 있다. 의료 이미지를 처리하는 데 사용되는 DNN이 일반 의사보다 특정 형태의 암을 더 정확하게 인식할 수 있다고 해보자. 그 결과를 어떻게 달성하는지는 알지 못하더라도 생명을 구하는 긍정적인 효과를 가져올 수 있는 이 기술을 적용할 도덕적인 의무가 있는가? 장기적인 목표는 DNN...

2021.12.23

AI 독해력, 사람을 앞지르다··· 알리바바, MS 개발

마이크로소프트와 알리바바가 각각 개발한 인공지능 모델이 사람의 독해력을 뛰어넘었다. 스탠퍼드 독해력 테스트(SQuAD : Stanford Question Answering Dataset)는 500개가 넘는 위키피디아 항목에서 답을 찾을 수 있는 질문으로 구성돼 있다. 이 테스트에서 알리바바의 심층 신경망 모델은 정확히 일치하는 답을 찾는 데 82.440점을 받아 사람이 받은 점수인 82.304점을 근소한 차이로 앞질렀다. 마이크로소프트가 개발한 비슷한 모델 역시 82.650점으로 사람보다 우수했다. 점수는 구글, IBM 연구소, 페이스북 AI 연구소, 세일즈포스 연구소, 텐센트, 삼성을 비롯한 인공지능 연구를 수행하는 회사의 담당자가 매겼다. 알리바바와 마이크로소프트 두 회사는 획기적인 이정표에 도달했다고 주장하며 처음으로 이 순위에 나란히 이름을 올렸다. 마이크로소프트는 1월 3일에, 알리바바는 2일 후에 점수를 등록한 것으로 알려졌지만, 알리바바는 테스트 결과가 등록되었을 때가 아니라 회사가 모델을 제출한 날짜라고 전했다. 알리바바의 데이터 과학 기술 연구소(iDST) 자연어 처리 수석 과학자인 루오 시는 "기계가 인간의 독서력을 능가하는 이정표를 목격하게 된 것을 영광으로 생각한다. 우리는 NLP 연구가 1년 동안 중요한 진전을 이뤘음을 보게 돼 매우 기쁘다. 우리는 모델 구축 방법론을 더 다양한 커뮤니티와 공유하고 가까운 미래에 이 기술을 고객에게 제공하기를 기대한다"고 밝혔다. 마이크로소프트 리서치 아시아 담당 전무인 밍 주우는 획기적인 발전이지만 전반적으로 아직은 사람이 언어의 복잡성과 뉘앙스를 이해하는 데 기계보다 훨씬 뛰어나다고 말했다.   그는 "자연어 처리는 우리가 계속해서 투자하고 추진해야 할 과제가 많은 영역이다"며 "이 이정표는 시작일뿐이다"고 강조했다. 대형 AI 업체가 독해 및 응답 모델에 막대한 자금을 투자하고 있다....

CIO 독해 심층 신경망 자연어 위키피디아 인공지능 알리바바 마이크로소프트 IBM 구글 DNN

2018.01.17

마이크로소프트와 알리바바가 각각 개발한 인공지능 모델이 사람의 독해력을 뛰어넘었다. 스탠퍼드 독해력 테스트(SQuAD : Stanford Question Answering Dataset)는 500개가 넘는 위키피디아 항목에서 답을 찾을 수 있는 질문으로 구성돼 있다. 이 테스트에서 알리바바의 심층 신경망 모델은 정확히 일치하는 답을 찾는 데 82.440점을 받아 사람이 받은 점수인 82.304점을 근소한 차이로 앞질렀다. 마이크로소프트가 개발한 비슷한 모델 역시 82.650점으로 사람보다 우수했다. 점수는 구글, IBM 연구소, 페이스북 AI 연구소, 세일즈포스 연구소, 텐센트, 삼성을 비롯한 인공지능 연구를 수행하는 회사의 담당자가 매겼다. 알리바바와 마이크로소프트 두 회사는 획기적인 이정표에 도달했다고 주장하며 처음으로 이 순위에 나란히 이름을 올렸다. 마이크로소프트는 1월 3일에, 알리바바는 2일 후에 점수를 등록한 것으로 알려졌지만, 알리바바는 테스트 결과가 등록되었을 때가 아니라 회사가 모델을 제출한 날짜라고 전했다. 알리바바의 데이터 과학 기술 연구소(iDST) 자연어 처리 수석 과학자인 루오 시는 "기계가 인간의 독서력을 능가하는 이정표를 목격하게 된 것을 영광으로 생각한다. 우리는 NLP 연구가 1년 동안 중요한 진전을 이뤘음을 보게 돼 매우 기쁘다. 우리는 모델 구축 방법론을 더 다양한 커뮤니티와 공유하고 가까운 미래에 이 기술을 고객에게 제공하기를 기대한다"고 밝혔다. 마이크로소프트 리서치 아시아 담당 전무인 밍 주우는 획기적인 발전이지만 전반적으로 아직은 사람이 언어의 복잡성과 뉘앙스를 이해하는 데 기계보다 훨씬 뛰어나다고 말했다.   그는 "자연어 처리는 우리가 계속해서 투자하고 추진해야 할 과제가 많은 영역이다"며 "이 이정표는 시작일뿐이다"고 강조했다. 대형 AI 업체가 독해 및 응답 모델에 막대한 자금을 투자하고 있다....

2018.01.17

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.4.0.13