Offcanvas

편견

유네스코, “생성형 AI 도구에 여전히 성 편견 만연” 주장

유네스코는 인공지능의 학습 결과물이 사람이 생성한 데이터보다 나은 부분이 없기 때문에 그 위험을 해결하려면 사법적, 사회적 개입이 필요하다고 주장했다.   유네스코 인공지능 국제연구센터가 지난 7일 발표한 보고서에 따르면 생성형 AI의 결...

유네스코 인공지능 국제연구센터 편견 성 편견 AI 편향 할루시네이션 AI환각 생성형AI

2024.03.08

유네스코는 인공지능의 학습 결과물이 사람이 생성한 데이터보다 나은 부분이 없기 때문에 그 위험을 해결하려면 사법적, 사회적 개입이 필요하다고 주장했다.   유네스코 인공지능 국제연구센터가 지난 7일 발표한 보고서에 따르면 생성형 AI의 결...

2024.03.08

'AI가 인재 찾는다'··· 행동 인텔리전스와 HR의 융합

2021년 DIHK 보고서에 따르면, 독일 기업의 절반이 장기적인 결원 보충에 어려움을 겪고 있다. 이 문제는 2030년까지 계속 나빠질 전망이다. 독일 연방고용청(BA)에 따르면, 그때까지 독일의 고용 인구가 360만 명 감소하기 때문이다. 인력 공...

인공지능 채용 HR 인재 편견 행동인텔리전스

2022.11.23

2021년 DIHK 보고서에 따르면, 독일 기업의 절반이 장기적인 결원 보충에 어려움을 겪고 있다. 이 문제는 2030년까지 계속 나빠질 전망이다. 독일 연방고용청(BA)에 따르면, 그때까지 독일의 고용 인구가 360만 명 감소하기 때문이다. 인력 공...

2022.11.23

채용에서의 AI 활용, 아직은 갈 길 먼 이유

이력서를 분석하고 지원자를 선별하기 위해 자동화된 평가, 디지털 면접, 데이터 애널리틱스에 주목하는 기업이 늘고 있다. 이 과정에서 인공지능의 사용이 증가하기도 했다. 그러나 IT의 과제 중 하나로 다양성, 형평성 및 포용성(DEI)이 대두되고 있는 ...

편견 편향 차별 다양성 인종 윤리

2021.10.27

이력서를 분석하고 지원자를 선별하기 위해 자동화된 평가, 디지털 면접, 데이터 애널리틱스에 주목하는 기업이 늘고 있다. 이 과정에서 인공지능의 사용이 증가하기도 했다. 그러나 IT의 과제 중 하나로 다양성, 형평성 및 포용성(DEI)이 대두되고 있는 ...

2021.10.27

섣부른 믿음이 독 될 때··· 조심해야 할 보안 편향 8가지

보안 관련 결정을 내릴 때 리더는 여러 편견 및 인지 편향의 영향을 받을 수 있다. 팬데믹으로 인해 보안 우려가 커지는 가운데 이러한 편향성을 피하는 것이 더욱 중요해졌다.  자산 관리 및 거버넌스 벤더 주피터원의 수닐 유 CISO는 “개인...

편향성 편견 오해 선입견 착각

2021.07.22

보안 관련 결정을 내릴 때 리더는 여러 편견 및 인지 편향의 영향을 받을 수 있다. 팬데믹으로 인해 보안 우려가 커지는 가운데 이러한 편향성을 피하는 것이 더욱 중요해졌다.  자산 관리 및 거버넌스 벤더 주피터원의 수닐 유 CISO는 “개인...

2021.07.22

AI 모델의 3가지 편향성, '그리고 대처 방법'

자동 의사 결정 툴이 갈수록 확산되고 있다. 그러나 얼굴 인식 시스템부터 온라인 광고에 이르기까지, 이러한 툴의 뒤에 존재하는 머신러닝 모델의 상당수는 인종과 성별에 대한 뚜렷한 편향성을 보인다. ML 모델이 갈수록 폭넓게 채택되고 있는 만큼 인공지능...

AI 학습 편향성 편견

2021.03.02

자동 의사 결정 툴이 갈수록 확산되고 있다. 그러나 얼굴 인식 시스템부터 온라인 광고에 이르기까지, 이러한 툴의 뒤에 존재하는 머신러닝 모델의 상당수는 인종과 성별에 대한 뚜렷한 편향성을 보인다. ML 모델이 갈수록 폭넓게 채택되고 있는 만큼 인공지능...

2021.03.02

칼럼 | 원격 근무, 직장 내 ‘편견 해소’ 솔루션일 수 있다

원격 근무가 새로운 것은 아니다. 그러나 널리 이용되고 있다는 현실은 꽤 새로운 것이다. 기업들이 재개를 준비하면서 일부는 사무실 복귀와 ‘평소와 같은 비즈니스’를 애타게 기다리고 있다. 그러나 원격 근무가 압도적으로 긍정적인 이점을 제공할 수 있다고...

편견 원격 근무 재택 근무

2020.06.26

원격 근무가 새로운 것은 아니다. 그러나 널리 이용되고 있다는 현실은 꽤 새로운 것이다. 기업들이 재개를 준비하면서 일부는 사무실 복귀와 ‘평소와 같은 비즈니스’를 애타게 기다리고 있다. 그러나 원격 근무가 압도적으로 긍정적인 이점을 제공할 수 있다고...

2020.06.26

기고 | ‘세익스피어 vs. 래퍼’··· AI 모델 편향성 사례 살펴보기

요즈음 인공지능(AI)의 편향에 대한 논란이 많다. 사람의 얼굴을 부적절하게 판단하는 이미지 분류 시스템에서부터 성별 편향을 보이는 채용 봇에 이르기까지 AI는 인간의 행동을 모사함에 있어 편견까지 고스란히 물려받는 경향을 보인다. AI를 오용하면 ...

편견 편향성 AI 모델 AI 훈련 데이터

2020.01.28

요즈음 인공지능(AI)의 편향에 대한 논란이 많다. 사람의 얼굴을 부적절하게 판단하는 이미지 분류 시스템에서부터 성별 편향을 보이는 채용 봇에 이르기까지 AI는 인간의 행동을 모사함에 있어 편견까지 고스란히 물려받는 경향을 보인다. AI를 오용하면 ...

2020.01.28

블로그 | 데이터센터는 퇴물? AI는 과대평가?··· IT 분야 2가지 통념 파헤치기

IT 세계에서 제일 잘 알려진 문제는 두 가지다. 인류가 미래를 향해 너무 열심히 달려간 나머지 아이러니하게도 기술 발전 속도가 예상을 따라오지 못할 때 그 경향을 무시하게 되는 것이다. 예를 들어 오늘날 널리 퍼져 있는 두 가지의 굳건한 신화를 생각...

신화 편견 AI프로젝트 멀티클라우드마이그레이션

2020.01.28

IT 세계에서 제일 잘 알려진 문제는 두 가지다. 인류가 미래를 향해 너무 열심히 달려간 나머지 아이러니하게도 기술 발전 속도가 예상을 따라오지 못할 때 그 경향을 무시하게 되는 것이다. 예를 들어 오늘날 널리 퍼져 있는 두 가지의 굳건한 신화를 생각...

2020.01.28

“AI 등의 파괴적 기술, 기후 변화 · 핵전쟁 뒤잇는 위험 요인”AI 기술기업 설립자

플라밍고 AI의 설립자이자 임원 디렉터인 카트리나 월리스 박사가 인공지능 기술이 인간에게 끼칠 수 있는 각종 영향에 대해 공유했다.  이번 주 시드니에서 개최된 세빗(CeBIT) 컨퍼런스에서 그는 AI의 부상, 그리고 인간과 기계 사이의 관...

일자리 편견 인류 가트리나 월리스 플라밍고 AI

2019.10.31

플라밍고 AI의 설립자이자 임원 디렉터인 카트리나 월리스 박사가 인공지능 기술이 인간에게 끼칠 수 있는 각종 영향에 대해 공유했다.  이번 주 시드니에서 개최된 세빗(CeBIT) 컨퍼런스에서 그는 AI의 부상, 그리고 인간과 기계 사이의 관...

2019.10.31

IBM의 인공지능 툴킷, AI 편향을 완화해 줄까

AI의 발전이 가속됨에 따라 우리의 일상적 삶의 더 많은 부분이 눈에 보이지 않는 알고리즘의 영향을 받고 있다. 그러나 중요한 결정을 소프트웨어에 맡기면 맡길수록 이들이 작용하는 방식과 이들이 내린 결론의 이유를 조사할 필요성은 더욱 커진다. ...

채용 아마존 IBM 인공지능 차별 편견 편향 AI 페어니스 360 프로퍼블리카

2018.11.20

AI의 발전이 가속됨에 따라 우리의 일상적 삶의 더 많은 부분이 눈에 보이지 않는 알고리즘의 영향을 받고 있다. 그러나 중요한 결정을 소프트웨어에 맡기면 맡길수록 이들이 작용하는 방식과 이들이 내린 결론의 이유를 조사할 필요성은 더욱 커진다. ...

2018.11.20

머신러닝 프로젝트가 실패하는 6가지 이유

일반적으로 학습 과정이란 실수를 저지르고 잘못된 길을 택하면서 경험을 통해 향후 동일한 함정을 피하는 방법을 알아 나가는 것을 의미한다. 머신러닝 역시 다르지 않다. 기업이 머신러닝을 구현할 때는 주의해야 한다. 일부 마케팅 자료에는 머신러닝...

프로젝트 IT전략 실패 모델링 편견

2018.10.16

일반적으로 학습 과정이란 실수를 저지르고 잘못된 길을 택하면서 경험을 통해 향후 동일한 함정을 피하는 방법을 알아 나가는 것을 의미한다. 머신러닝 역시 다르지 않다. 기업이 머신러닝을 구현할 때는 주의해야 한다. 일부 마케팅 자료에는 머신러닝...

2018.10.16

'AI의 블랙박스화' 막겠다··· 오픈소스로 알고리즘 공개 선언한 IBM

IBM은 인공지능 개발자가 알고리즘 작동 방식을 더 잘 파악할 수 있도록 돕는 오픈소스 소프트웨어 툴 세트를 발표했으며, 이는 향후 알고리즘의 편견을 피하는 데 도움이 될 것으로 기대된다. IBM은 개발자들이 인공지능의 의사결정 방식을 파...

구글 편견 텐서플로 GDPR 애저ML 편향 스파크ML SparkML AWS 세이지메이커 AWS SageMaker 블랙박스 핀터레스트 공정 SAP 페이스북 인텔 IBM 액센츄어 마이크로소프트 왓슨 윤리 인공지능 AzureML

2018.10.01

IBM은 인공지능 개발자가 알고리즘 작동 방식을 더 잘 파악할 수 있도록 돕는 오픈소스 소프트웨어 툴 세트를 발표했으며, 이는 향후 알고리즘의 편견을 피하는 데 도움이 될 것으로 기대된다. IBM은 개발자들이 인공지능의 의사결정 방식을 파...

2018.10.01

AI가 판결하는 '정의란 무엇인가'

전세계 법원은 소프트웨어를 사용해 위험을 평가하고 판결에 도움을 받으며 알고리즘을 실험하고 있다. 비평가들은 시스템 투명성이 부족하고 인간의 편견을 증폭시킬 수 있다고 우려하지만 알고리즘이 좀더 공정하고 효율적일 수 있다고 주장하고 있다. 엘리엇 애쉬...

판결 공형 AI 판사 자동화 판결 사법 판사 판례 편견 일관성 블랙박스 알고리즘 정의 재판 인공지능 편향

2018.07.24

전세계 법원은 소프트웨어를 사용해 위험을 평가하고 판결에 도움을 받으며 알고리즘을 실험하고 있다. 비평가들은 시스템 투명성이 부족하고 인간의 편견을 증폭시킬 수 있다고 우려하지만 알고리즘이 좀더 공정하고 효율적일 수 있다고 주장하고 있다. 엘리엇 애쉬...

2018.07.24

블로그 | AI 내부의 편견, 방치하면 증폭된다

AI 시스템 내부의 편견이 의도치 않은 결과로 이어질 수 있다. 문제를 제대로 해결하기 위해서는 AI 시스템이 입력 데이터를 해석하는 방법을 이해하는 것이 중요하다. 알렉사와 시리, 코타나와 같은 가상 비서들이 일상 생활의 일부로 녹아들고 있다....

다양성 편견

2018.03.27

AI 시스템 내부의 편견이 의도치 않은 결과로 이어질 수 있다. 문제를 제대로 해결하기 위해서는 AI 시스템이 입력 데이터를 해석하는 방법을 이해하는 것이 중요하다. 알렉사와 시리, 코타나와 같은 가상 비서들이 일상 생활의 일부로 녹아들고 있다....

2018.03.27

기고 | SXSW에서 논의된 AI의 불편한 진실

오길비의 제이슨 데이비가 SXSW 행사에서 이뤄진 AI 관련 논의에 대해 기고했다. 작년 SXSW 행사에 대한 기고문에서 필자는 기술 분야에서 나타난 발전들이 마케팅 뿐 아니라 사회적인 충격을 가져올 것이라고 기술했다. 올해의 행사는 이러한 전망...

인공지능 개인화 알고리즘 SXSW 편견 편향성

2018.03.15

오길비의 제이슨 데이비가 SXSW 행사에서 이뤄진 AI 관련 논의에 대해 기고했다. 작년 SXSW 행사에 대한 기고문에서 필자는 기술 분야에서 나타난 발전들이 마케팅 뿐 아니라 사회적인 충격을 가져올 것이라고 기술했다. 올해의 행사는 이러한 전망...

2018.03.15

기고 | 프로젝트 관리에 대한 10가지 흔한 오해

기업과 기업 내 직무는 규칙과 지침에 따라 발전하고 운영된다. 이와 함께 근거 없는 믿음이 생겨나기도 한다. 프로젝트 관리 직종도 다르지 않다. 보편적인 프로젝트 관리에 관한 10가지 근거 없는 믿음이 있다. 이런 프로젝트 관리에 관한 근거 없는 믿음...

PM 오해 프로젝트 관리 신화 편견

2018.02.02

기업과 기업 내 직무는 규칙과 지침에 따라 발전하고 운영된다. 이와 함께 근거 없는 믿음이 생겨나기도 한다. 프로젝트 관리 직종도 다르지 않다. 보편적인 프로젝트 관리에 관한 10가지 근거 없는 믿음이 있다. 이런 프로젝트 관리에 관한 근거 없는 믿음...

2018.02.02

'인공지능 개발의 가장 큰 위협은 편견' AI 전문가들 지적

세계 최고 AI 전문가들에 따르면, 편견은 인간의 편견이든 데이터 기반 편견이든 인공지능(AI) 개발과 이용에 대한 가장 큰 윤리적 과제다. 왼쪽부터 피터 노르빅 박사, 리처드 소처 박사, 수치 사리아 박사, 포춘지 애덤 라쉰스키 지난주...

구글 세일즈포스 CMO 윤리 드림포스 인공지능 패널토의 편견

2017.11.16

세계 최고 AI 전문가들에 따르면, 편견은 인간의 편견이든 데이터 기반 편견이든 인공지능(AI) 개발과 이용에 대한 가장 큰 윤리적 과제다. 왼쪽부터 피터 노르빅 박사, 리처드 소처 박사, 수치 사리아 박사, 포춘지 애덤 라쉰스키 지난주...

2017.11.16

AI의 '블랙박스'를 어디까지 신뢰할 수 있을까?

많은 대기업들이 인공지능을 수용하고 있다. 고객 요청을 처리하는 봇을 구현하고, 비즈니스 프로세스를 자동화 할 알고리즘을 탐구한다. 그러나 스스로 학습을 하는 소프트웨어로 효율성을 높일 수 있다고 판단하는 CIO가 있는 반면, AI에 지나치게 많은 운...

블랙박스 편견 설명 가능한 AI

2017.07.10

많은 대기업들이 인공지능을 수용하고 있다. 고객 요청을 처리하는 봇을 구현하고, 비즈니스 프로세스를 자동화 할 알고리즘을 탐구한다. 그러나 스스로 학습을 하는 소프트웨어로 효율성을 높일 수 있다고 판단하는 CIO가 있는 반면, AI에 지나치게 많은 운...

2017.07.10

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.

10.4.0.6