Offcanvas

%ED%8E%B8%ED%96%A5%EC%84%B1

“AI가 역사 왜곡한다” 주장에… 구글, 제미나이 이미지 생성 기능 일시 중단

구글이 AI 이미지 생성 기능을 일시적으로 제공하지 않겠다고 22일 밝혔다. 구글의 생성형 AI 모델 ‘제미나이’가 역사를 제대로 반영하지 않은 이미지를 만든다는 비판 이후 취한 조치다.   구글은 X(구 트위터) 홍보 계정을 통해 “제미...

구글 제미나이 생성형AI 편향성

2024.02.23

구글이 AI 이미지 생성 기능을 일시적으로 제공하지 않겠다고 22일 밝혔다. 구글의 생성형 AI 모델 ‘제미나이’가 역사를 제대로 반영하지 않은 이미지를 만든다는 비판 이후 취한 조치다.   구글은 X(구 트위터) 홍보 계정을 통해 “제미...

2024.02.23

유엔 안보리 AI 위험성 첫 논의… “윤리적 규제 조율해야”

유엔 안전보장이사회가 현재와 미래의 인공지능(AI) 애플리케이션이 가져올 혜택과 문제에 대해 전문가들과 논의했다. 유엔 안전보장이사회(안보리)가 최근 AI 관련 공개 회의를 열었다. AI의 잠재적 이익과 위험성에 대해 전문가들과 의견을 나눴다. ...

AI UN 편향성 인공지능 유엔

2023.07.20

유엔 안전보장이사회가 현재와 미래의 인공지능(AI) 애플리케이션이 가져올 혜택과 문제에 대해 전문가들과 논의했다. 유엔 안전보장이사회(안보리)가 최근 AI 관련 공개 회의를 열었다. AI의 잠재적 이익과 위험성에 대해 전문가들과 의견을 나눴다. ...

2023.07.20

팀의 다양성을 확보해 ‘더 나은 데이터’를 얻는 법

데이터에서 비즈니스 가치를 창출하려면 정확하고 포괄적이며 편견이 없는 데이터가 필요하다. 기업이 다양한 인구통계학적, 교육적, 직업적 배경을 가진 사람들로 팀을 구성할 경우 이러한 목표에 한발 더 다가갈 수 있다.    많은 기업...

다양성 데이터 편향성

2023.07.03

데이터에서 비즈니스 가치를 창출하려면 정확하고 포괄적이며 편견이 없는 데이터가 필요하다. 기업이 다양한 인구통계학적, 교육적, 직업적 배경을 가진 사람들로 팀을 구성할 경우 이러한 목표에 한발 더 다가갈 수 있다.    많은 기업...

2023.07.03

"AI 편향이 초래할 비즈니스 위험은..." 스웨덴 CIO 3인의 진단

AI가 내놓은 결과물은 편향될 수 있다. 그리고 그 심각성은 여전히 과소평가되고 있다. 기업은 AI의 편향성이 초래할 수 있는 위험성을 이해해야만 한다. 의사 결정에 과정에 AI가 점점 더 널리 사용되는 현실을 감안하면 꽤 시급한 사안이다. ...

AI 편향 편향성 데이터 편향 AI 거버넌스

2023.06.13

AI가 내놓은 결과물은 편향될 수 있다. 그리고 그 심각성은 여전히 과소평가되고 있다. 기업은 AI의 편향성이 초래할 수 있는 위험성을 이해해야만 한다. 의사 결정에 과정에 AI가 점점 더 널리 사용되는 현실을 감안하면 꽤 시급한 사안이다. ...

2023.06.13

섣부른 믿음이 독 될 때··· 조심해야 할 보안 편향 8가지

보안 관련 결정을 내릴 때 리더는 여러 편견 및 인지 편향의 영향을 받을 수 있다. 팬데믹으로 인해 보안 우려가 커지는 가운데 이러한 편향성을 피하는 것이 더욱 중요해졌다.  자산 관리 및 거버넌스 벤더 주피터원의 수닐 유 CISO는 “개인...

편향성 편견 오해 선입견 착각

2021.07.22

보안 관련 결정을 내릴 때 리더는 여러 편견 및 인지 편향의 영향을 받을 수 있다. 팬데믹으로 인해 보안 우려가 커지는 가운데 이러한 편향성을 피하는 것이 더욱 중요해졌다.  자산 관리 및 거버넌스 벤더 주피터원의 수닐 유 CISO는 “개인...

2021.07.22

AI 모델의 3가지 편향성, '그리고 대처 방법'

자동 의사 결정 툴이 갈수록 확산되고 있다. 그러나 얼굴 인식 시스템부터 온라인 광고에 이르기까지, 이러한 툴의 뒤에 존재하는 머신러닝 모델의 상당수는 인종과 성별에 대한 뚜렷한 편향성을 보인다. ML 모델이 갈수록 폭넓게 채택되고 있는 만큼 인공지능...

AI 학습 편향성 편견

2021.03.02

자동 의사 결정 툴이 갈수록 확산되고 있다. 그러나 얼굴 인식 시스템부터 온라인 광고에 이르기까지, 이러한 툴의 뒤에 존재하는 머신러닝 모델의 상당수는 인종과 성별에 대한 뚜렷한 편향성을 보인다. ML 모델이 갈수록 폭넓게 채택되고 있는 만큼 인공지능...

2021.03.02

구글, 사내 AI 윤리팀 리더 해고··· '게브루 해고 사태' 이후 두 달 만

구글이 사내 AI 윤리 팀을 이끌던 연구원 마가렛 미셸을 지난 19일에 해고했다. 지난해 12월 같은 팀에서 일하던 AI 엔지니어 팀닛 게브루 박사를 해고한 지 약 2개월 만이다. 두 사람은 AI 윤리팀을 공동으로 이끌며 구글 AI 모델의 인종적, 성...

구글 인공지능 윤리 팀닛 게브루 마가렛 미셸 편향성

2021.02.22

구글이 사내 AI 윤리 팀을 이끌던 연구원 마가렛 미셸을 지난 19일에 해고했다. 지난해 12월 같은 팀에서 일하던 AI 엔지니어 팀닛 게브루 박사를 해고한 지 약 2개월 만이다. 두 사람은 AI 윤리팀을 공동으로 이끌며 구글 AI 모델의 인종적, 성...

2021.02.22

칼럼 | 인공지능 편향성을 확인하는 것은 인간의 몫

인공지능(AI)의 근본적 문제는 ‘인공’이라는 부분과 ‘지능’ 부분이다. 우리는 로봇 지능이 인간의 편견에서 벗어났다고 생각하지만, 실제로는 AI가 오히려 인간의 단점을 반복하는 경우가 많다. 한 번에 하나의 데이터 세트로 말이다.   데...

AI 인공지능 편향성

2020.04.28

인공지능(AI)의 근본적 문제는 ‘인공’이라는 부분과 ‘지능’ 부분이다. 우리는 로봇 지능이 인간의 편견에서 벗어났다고 생각하지만, 실제로는 AI가 오히려 인간의 단점을 반복하는 경우가 많다. 한 번에 하나의 데이터 세트로 말이다.   데...

2020.04.28

기고 | ‘세익스피어 vs. 래퍼’··· AI 모델 편향성 사례 살펴보기

요즈음 인공지능(AI)의 편향에 대한 논란이 많다. 사람의 얼굴을 부적절하게 판단하는 이미지 분류 시스템에서부터 성별 편향을 보이는 채용 봇에 이르기까지 AI는 인간의 행동을 모사함에 있어 편견까지 고스란히 물려받는 경향을 보인다. AI를 오용하면 ...

편견 편향성 AI 모델 AI 훈련 데이터

2020.01.28

요즈음 인공지능(AI)의 편향에 대한 논란이 많다. 사람의 얼굴을 부적절하게 판단하는 이미지 분류 시스템에서부터 성별 편향을 보이는 채용 봇에 이르기까지 AI는 인간의 행동을 모사함에 있어 편견까지 고스란히 물려받는 경향을 보인다. AI를 오용하면 ...

2020.01.28

'학습용 데이터셋에서 편향성 식별 가능'··· IBM, 파이썬용 트러스티드 AI 툴킷 발표

IBM 연구진이 머신러닝 모델의 편향성을 줄이고 AI를 학습할 데이터셋에서 편향성을 찾아내는 방법을 개발했다. AI 애플리케이션이 업무를 처리하고 결정하는 데 있어 편향성에 따른 차별을 없애는 데 도움이 될 전망이다. 이번 성과는 '신뢰할 수 있는 ...

IBM AI 인공지능 편향성

2019.08.27

IBM 연구진이 머신러닝 모델의 편향성을 줄이고 AI를 학습할 데이터셋에서 편향성을 찾아내는 방법을 개발했다. AI 애플리케이션이 업무를 처리하고 결정하는 데 있어 편향성에 따른 차별을 없애는 데 도움이 될 전망이다. 이번 성과는 '신뢰할 수 있는 ...

2019.08.27

블로그 | AI 시스템의 편향성을 악화시키는 클라우드 가용성

가트너에 따르면, 지금부터 2022년까지 AI 프로젝트의 85%가 데이터와 알고리즘, 아니면 프로젝트 관리를 맡은 팀의 편향성 때문에 잘못된 결과물을 내놓을 것으로 전망된다. 게다가 갤럽에 따르면 현재 미국인의 85%가 최소한 하나 이상의 AI 기반 ...

AI 편향성 bias

2019.04.09

가트너에 따르면, 지금부터 2022년까지 AI 프로젝트의 85%가 데이터와 알고리즘, 아니면 프로젝트 관리를 맡은 팀의 편향성 때문에 잘못된 결과물을 내놓을 것으로 전망된다. 게다가 갤럽에 따르면 현재 미국인의 85%가 최소한 하나 이상의 AI 기반 ...

2019.04.09

기고 | SXSW에서 논의된 AI의 불편한 진실

오길비의 제이슨 데이비가 SXSW 행사에서 이뤄진 AI 관련 논의에 대해 기고했다. 작년 SXSW 행사에 대한 기고문에서 필자는 기술 분야에서 나타난 발전들이 마케팅 뿐 아니라 사회적인 충격을 가져올 것이라고 기술했다. 올해의 행사는 이러한 전망...

인공지능 개인화 알고리즘 SXSW 편견 편향성

2018.03.15

오길비의 제이슨 데이비가 SXSW 행사에서 이뤄진 AI 관련 논의에 대해 기고했다. 작년 SXSW 행사에 대한 기고문에서 필자는 기술 분야에서 나타난 발전들이 마케팅 뿐 아니라 사회적인 충격을 가져올 것이라고 기술했다. 올해의 행사는 이러한 전망...

2018.03.15

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.

10.4.0.6