Offcanvas

������

‘돈 잃고 평판 망치고’··· 악명 높은 'AI 재난' 7선

2017년, 이코노미스트(The Economist)는 데이터가 석유보다 귀중한 자원이 되었다고 선언했다. 그 이후로 비슷한 진단이 이어졌다. 모든 산업의 조직들이 데이터와 분석에 지속적으로 투자했다. 하지만 석유와 마찬가지로 데이터와 분석에는 어두운 면이 있다. 2022년 CIO의 ‘CIO 현황 보고서’에 따르면 IT 리더 중 35%가 올해 소속 조직에서 데이터 및 비즈니스 분석에의 투자가 증가할 것이라고 밝혔다. 그리고 IT 리더 중 20%는 머신러닝/인공지능이 대부분의 IT 투자를 유도할 것이라고 말한다. 분석을 통해 얻은 인사이트와 머신러닝 알고리즘에 기초한 행동은 조직에 경쟁력을 제공할 수 있다. 그러나 평판, 수익 또는 생존을 위협할 수도 있다. 데이터와 그 의미를 이해하는 것이 중요하지만 도구를 이해하고 데이터를 알며 조직의 가치를 계속 생각하는 것도 중요하다. 지난 10년 동안 발생한 주요 사고를 살펴본다.   AI 알고리즘이 수많은 것을 분석하지만 코로나19는 아니었다 코로나19 팬데믹이 시작된 이후로 여러 조직들이 병원 진단을 돕거나 환자를 더욱 신속하게 분류할 수 있도록 머신러닝(ML) 알고리즘을 적용하려 했다. 하지만 영국의 국립 데이터 사이언스 및 AI 센터 TI(Turing Institute)에 따르면 이 예측 도구는 별다른 차이를 만들어내지 못했다. MIT 테크놀로지 리뷰(MIT Technology Review)는 여러 AI 실패 사례를 연대기 순으로 나열했던 바 있다. 대부분은 도구를 훈련시키거나 테스트하는 동안 발생한 오류에 기인한 것이었다. 라벨이 잘못 적용된 데이터나 알 수 없는 출처의 데이터를 사용하는 것이 공통적인 원인이었다. 캠브리지대학교(University of Cambridge)의 머신러닝 연구원 데렉 드릭스는 그의 동료들과 함께 코로나19 바이러스 진단에 딥러닝 모델의 사용을 연구했으며, 해당 논문을 NMI(Nature Machine Intelligence)에 발표했다.  해당 논문에는...

사고 사건 재난 재앙 평판

2022.04.19

2017년, 이코노미스트(The Economist)는 데이터가 석유보다 귀중한 자원이 되었다고 선언했다. 그 이후로 비슷한 진단이 이어졌다. 모든 산업의 조직들이 데이터와 분석에 지속적으로 투자했다. 하지만 석유와 마찬가지로 데이터와 분석에는 어두운 면이 있다. 2022년 CIO의 ‘CIO 현황 보고서’에 따르면 IT 리더 중 35%가 올해 소속 조직에서 데이터 및 비즈니스 분석에의 투자가 증가할 것이라고 밝혔다. 그리고 IT 리더 중 20%는 머신러닝/인공지능이 대부분의 IT 투자를 유도할 것이라고 말한다. 분석을 통해 얻은 인사이트와 머신러닝 알고리즘에 기초한 행동은 조직에 경쟁력을 제공할 수 있다. 그러나 평판, 수익 또는 생존을 위협할 수도 있다. 데이터와 그 의미를 이해하는 것이 중요하지만 도구를 이해하고 데이터를 알며 조직의 가치를 계속 생각하는 것도 중요하다. 지난 10년 동안 발생한 주요 사고를 살펴본다.   AI 알고리즘이 수많은 것을 분석하지만 코로나19는 아니었다 코로나19 팬데믹이 시작된 이후로 여러 조직들이 병원 진단을 돕거나 환자를 더욱 신속하게 분류할 수 있도록 머신러닝(ML) 알고리즘을 적용하려 했다. 하지만 영국의 국립 데이터 사이언스 및 AI 센터 TI(Turing Institute)에 따르면 이 예측 도구는 별다른 차이를 만들어내지 못했다. MIT 테크놀로지 리뷰(MIT Technology Review)는 여러 AI 실패 사례를 연대기 순으로 나열했던 바 있다. 대부분은 도구를 훈련시키거나 테스트하는 동안 발생한 오류에 기인한 것이었다. 라벨이 잘못 적용된 데이터나 알 수 없는 출처의 데이터를 사용하는 것이 공통적인 원인이었다. 캠브리지대학교(University of Cambridge)의 머신러닝 연구원 데렉 드릭스는 그의 동료들과 함께 코로나19 바이러스 진단에 딥러닝 모델의 사용을 연구했으며, 해당 논문을 NMI(Nature Machine Intelligence)에 발표했다.  해당 논문에는...

2022.04.19

'알고리즘 따라 부동산 샀더니...' AI·애널리틱스에서 비롯된 재난 6선

2017년 이코노미스트는 데이터가 석유를 넘어서 가장 가치 있는 자원이 됐다고 선언했다. 비슷한 후렴구가 그 이후로 반복되고 있다. 모든 업종에 걸쳐 각 기업들이 데이터 및 애널리틱스에 크게 투자해오고 있다. 그러나 석유와 마찬가지로 데이터와 애널리틱스에도 어두운 면이 있다. IDG의 2021 CIO 현황 보고서에 따르면, IT 리더 중 39%는 데이터 애널리틱스에 대한 투자가 올해 IT 투자를 주도할 것이라고 응답했다. 머신러닝(ML) 알고리즘에 의한 애널리틱스 및 조치를 통해 얻은 통찰력은 조직에 경쟁적 우위를 제공할 수 있다는 판단에서 일 것이다. 그러나 애널리틱스에서 비롯된 실수 또한 명성, 수익 또는 생명 측면에서 큰 대가를 치르게 할 수 있다. 데이터가 말해주는 것을 이해하는 것도 중요하지만 툴을 이해하고 데이터를 파악하며 조직의 가치를 확실히 염두에 두는 것도 중요하다. 다음은 지난 10년간 세간의 이목을 끈 애널리틱스 및 인공지능(AI) 관련 사고들이다. 알고리즘으로 인한 주택 구입 실수로 인해 질로우는 수억 달러의 손해를 봤고 결국 인력을 감축했다 2021년 11월 온라인 부동산 시장업체인 질로우는 주주총회에서 질로우 오퍼스의 운영을 중단하고 향후 몇 분기에 걸쳐 인력의 25%에 달하는 약 2,000명의 직원을 감원할 것이라고 밝혔다. 부동산업체인 질로우의 문제는 주택가격을 예측하기 위해 사용했던 머신러닝 알고리즘의 오류 비율이었다. ‘질로우 오퍼스’는 머신러닝 알고리즘에서 파생된 주택 가치인 ‘제스티메이트(Zestimate)’를 기반으로 해 부동산에 대해 현금 거래를 제안하는 프로그램이다. 그 아이디어는 부동산을 빠르게 개조하고 개량하는 것이었다. 그러나 질로우 대변인이 CNN에 밝한 내용에 따르면 이 알고리즘은 1.9%의 중간 오류율을 가지고 있으며, 시장에 나와있지 않은 주택의 경우 오류율이 6.9%까지 치솟을 수 있었다.  질로우는 2018년 4월 질로우 오퍼스를 가동한 이후 이를 통해 2만 7,000채의 주택을 구...

데이터 분석 인공지능 사고 자동화 사고 실수 역사 재난 재앙 사과

2021.11.25

2017년 이코노미스트는 데이터가 석유를 넘어서 가장 가치 있는 자원이 됐다고 선언했다. 비슷한 후렴구가 그 이후로 반복되고 있다. 모든 업종에 걸쳐 각 기업들이 데이터 및 애널리틱스에 크게 투자해오고 있다. 그러나 석유와 마찬가지로 데이터와 애널리틱스에도 어두운 면이 있다. IDG의 2021 CIO 현황 보고서에 따르면, IT 리더 중 39%는 데이터 애널리틱스에 대한 투자가 올해 IT 투자를 주도할 것이라고 응답했다. 머신러닝(ML) 알고리즘에 의한 애널리틱스 및 조치를 통해 얻은 통찰력은 조직에 경쟁적 우위를 제공할 수 있다는 판단에서 일 것이다. 그러나 애널리틱스에서 비롯된 실수 또한 명성, 수익 또는 생명 측면에서 큰 대가를 치르게 할 수 있다. 데이터가 말해주는 것을 이해하는 것도 중요하지만 툴을 이해하고 데이터를 파악하며 조직의 가치를 확실히 염두에 두는 것도 중요하다. 다음은 지난 10년간 세간의 이목을 끈 애널리틱스 및 인공지능(AI) 관련 사고들이다. 알고리즘으로 인한 주택 구입 실수로 인해 질로우는 수억 달러의 손해를 봤고 결국 인력을 감축했다 2021년 11월 온라인 부동산 시장업체인 질로우는 주주총회에서 질로우 오퍼스의 운영을 중단하고 향후 몇 분기에 걸쳐 인력의 25%에 달하는 약 2,000명의 직원을 감원할 것이라고 밝혔다. 부동산업체인 질로우의 문제는 주택가격을 예측하기 위해 사용했던 머신러닝 알고리즘의 오류 비율이었다. ‘질로우 오퍼스’는 머신러닝 알고리즘에서 파생된 주택 가치인 ‘제스티메이트(Zestimate)’를 기반으로 해 부동산에 대해 현금 거래를 제안하는 프로그램이다. 그 아이디어는 부동산을 빠르게 개조하고 개량하는 것이었다. 그러나 질로우 대변인이 CNN에 밝한 내용에 따르면 이 알고리즘은 1.9%의 중간 오류율을 가지고 있으며, 시장에 나와있지 않은 주택의 경우 오류율이 6.9%까지 치솟을 수 있었다.  질로우는 2018년 4월 질로우 오퍼스를 가동한 이후 이를 통해 2만 7,000채의 주택을 구...

2021.11.25

‘큰 재앙을 부르는 작은 착오’··· 기업의 클라우드 실수 10가지

낙관적인 사람들은 “구름 위에서는 항상 해가 빛난다”는 말을 즐겨 쓴다. 하지만 그 구름 아래에 높은 바람과 억수 같은 비, 번개, 이따금 내리는 골프공만한 우박이 있다는 사실을 언급하지 않는다. 클라우드 컴퓨팅도 마찬가지다. 긍정적으로 보면 신뢰성, 유연성, 관리성, 확장성 향상 등 다양한 이점을 제공한다. 그러나 그 이면에는 클라우드의 어두운 면이 자리잡고 있다. 오히려 하나의 오류, 실수, 계산 착오가 큰 재앙을 불러올 수도 있다. 이처럼 기업이 막대한 손실과 소송이라는 최악의 상황을 피하기 위해서는 다음과 같은 보편적인 실수 10가지를 조심해야 한다. 1. 관리와 전략 계획 없이 클라우드로 이행하는 것 클라우드에서는 인프라 자원을 매우 쉽게 조정할 수 있지만 부주의로 의한 정책, 보안, 비용 문제를 발견하지 못할 가능성도 그만큼 높다. 기술 컨설팅 업체 SPR 컨설팅(SPR Consulting)의 클라우드 인프라 사례 책임자 크리스 한센은 “촘촘한 관리와 계획이 이상적이지만 한 번에 해결할 필요는 없다. 자동화가 가능한 작은 부분부터 시작하라. 이를 통해 모니터링/관리, 보안, 금융 등 관리의 핵심 3영역을 관리하고 문제를 신속하게 찾고 해결할 수 있다”라고 말했다. 이는 기업 내 누가 보안과 데이터 백업, 비즈니스 연속성 등 클라우드 관련 작업을 담당하는지 완전히 파악하는 것이 중요하다는 것을 알려준다. 보안 자동화 플랫폼 업체 소스클리어(SourceClear)의 CSO 로버트 우드는 “무엇인가 잘못됐는데 이를 파악하지 못하면 기업은 매우 어려운 상황에 부닥칠 수 있다”라고 말했다. 2. 무엇이든 클라우드에 넣을 수 있다는 생각 지난 수년간 많이 좋아지긴 했지만 여전히 많은 애플리케이션이 클라우드에 적합하지 않다. 디지털 고객 참여 전문 업체 리퀴드허브(LiquidHub)의 파트너 조 그로버는 “아직 완성되지 않았거나 레거시 시스템과의 복잡한 통...

클라우드 CIO 실수 재앙 착오

2017.11.16

낙관적인 사람들은 “구름 위에서는 항상 해가 빛난다”는 말을 즐겨 쓴다. 하지만 그 구름 아래에 높은 바람과 억수 같은 비, 번개, 이따금 내리는 골프공만한 우박이 있다는 사실을 언급하지 않는다. 클라우드 컴퓨팅도 마찬가지다. 긍정적으로 보면 신뢰성, 유연성, 관리성, 확장성 향상 등 다양한 이점을 제공한다. 그러나 그 이면에는 클라우드의 어두운 면이 자리잡고 있다. 오히려 하나의 오류, 실수, 계산 착오가 큰 재앙을 불러올 수도 있다. 이처럼 기업이 막대한 손실과 소송이라는 최악의 상황을 피하기 위해서는 다음과 같은 보편적인 실수 10가지를 조심해야 한다. 1. 관리와 전략 계획 없이 클라우드로 이행하는 것 클라우드에서는 인프라 자원을 매우 쉽게 조정할 수 있지만 부주의로 의한 정책, 보안, 비용 문제를 발견하지 못할 가능성도 그만큼 높다. 기술 컨설팅 업체 SPR 컨설팅(SPR Consulting)의 클라우드 인프라 사례 책임자 크리스 한센은 “촘촘한 관리와 계획이 이상적이지만 한 번에 해결할 필요는 없다. 자동화가 가능한 작은 부분부터 시작하라. 이를 통해 모니터링/관리, 보안, 금융 등 관리의 핵심 3영역을 관리하고 문제를 신속하게 찾고 해결할 수 있다”라고 말했다. 이는 기업 내 누가 보안과 데이터 백업, 비즈니스 연속성 등 클라우드 관련 작업을 담당하는지 완전히 파악하는 것이 중요하다는 것을 알려준다. 보안 자동화 플랫폼 업체 소스클리어(SourceClear)의 CSO 로버트 우드는 “무엇인가 잘못됐는데 이를 파악하지 못하면 기업은 매우 어려운 상황에 부닥칠 수 있다”라고 말했다. 2. 무엇이든 클라우드에 넣을 수 있다는 생각 지난 수년간 많이 좋아지긴 했지만 여전히 많은 애플리케이션이 클라우드에 적합하지 않다. 디지털 고객 참여 전문 업체 리퀴드허브(LiquidHub)의 파트너 조 그로버는 “아직 완성되지 않았거나 레거시 시스템과의 복잡한 통...

2017.11.16

칼럼 | 바이럴 재앙, 어떻게 예방할 것인가?

컴캐스트(Comcast)의 고객 서비스 지원 부서를 책임진 임원들이 요즘 긴장되는 시절을 보내고 있다. 이미 소식을 들은 이도 있겠다. 미디어 분야에 든든한 연줄을 갖고 있는 두 사람이 컴캐스트 서비스를 해지하기 위해 전화를 걸었다. 그러나 고객 서비스 담당자는 쉽게 서비스를 해지해 주지 않았다. 이에 두 고객은 이 담당자의 전화 통화 내용을 녹음했다. 이 통화 내용이 일파만파 퍼져 나가면서 컴캐스트의 CEO와 회장까지 알게 됐다. 더 나아가, 워싱턴 포스트(The Washington Post)는 이 사건이 컴캐스트와 타임워너(Time Warner)간 합병의 정당성에 부정적인 영향을 미친다는 논조의 보도까지 내어 놓았다. 문제의 고객 서비스 담당자는 아마도 해고를 당할 것이다. 어쩌면 상사 몇 명과 임원까지 회사를 그만둬야 할 수 있다. 그런데 이 사건은 바이럴 이벤트(viral event) 및 내부 업무 관행 개선에 초점을 맞춘 애널리틱스로 예방을 할 수 있었다. 고객은 항상 옳고, '의욕과다' 직원은 통상 옳지 않다 어떤 조직이든 지나치게 열심인 직원들이 있기 마련이다. 특히 정리 해고 중이거나, 재무 측면에서 압박을 받고 있는 기업에서 이와 관련된 문제가 많이 발생할 수 있다. 직원들이 뭔가를 해야 한다고 생각하기 때문이다. 이 뭔가는 선의이지만, 끔찍한 재앙이 될 수 있다. 필자는 IBM의 전화 시스템 생산 부문인 ROLM에서 이와 같은 사례를 처음 경험했다. 당시 모든 직원들이 재무 실적을 개선해야 한다는 상당한 압박감에 시달리고 있었다. 그런데 한 대형 고객이 유지보수 계약이 불필요하다고 판단해 계약 체결을 거부하는 사건이 발생했다. 전화 시스템의 내구성이 충분히 높다고 판단했기 때문이었다. 그러자 의욕이 넘치는 지원 담당 엔지니어 한 명이 사고를 쳤다. 고객이 틀렸다는 점을 증명하기 위해 수신 및 발신 통화에 대한 승인권을 변경해 전체 회사의 전화 서비스를 불통 상태로 만...

모니터링 윤리 바이럴 사건 애널리틱스 소셜 재앙 설화

2014.07.22

컴캐스트(Comcast)의 고객 서비스 지원 부서를 책임진 임원들이 요즘 긴장되는 시절을 보내고 있다. 이미 소식을 들은 이도 있겠다. 미디어 분야에 든든한 연줄을 갖고 있는 두 사람이 컴캐스트 서비스를 해지하기 위해 전화를 걸었다. 그러나 고객 서비스 담당자는 쉽게 서비스를 해지해 주지 않았다. 이에 두 고객은 이 담당자의 전화 통화 내용을 녹음했다. 이 통화 내용이 일파만파 퍼져 나가면서 컴캐스트의 CEO와 회장까지 알게 됐다. 더 나아가, 워싱턴 포스트(The Washington Post)는 이 사건이 컴캐스트와 타임워너(Time Warner)간 합병의 정당성에 부정적인 영향을 미친다는 논조의 보도까지 내어 놓았다. 문제의 고객 서비스 담당자는 아마도 해고를 당할 것이다. 어쩌면 상사 몇 명과 임원까지 회사를 그만둬야 할 수 있다. 그런데 이 사건은 바이럴 이벤트(viral event) 및 내부 업무 관행 개선에 초점을 맞춘 애널리틱스로 예방을 할 수 있었다. 고객은 항상 옳고, '의욕과다' 직원은 통상 옳지 않다 어떤 조직이든 지나치게 열심인 직원들이 있기 마련이다. 특히 정리 해고 중이거나, 재무 측면에서 압박을 받고 있는 기업에서 이와 관련된 문제가 많이 발생할 수 있다. 직원들이 뭔가를 해야 한다고 생각하기 때문이다. 이 뭔가는 선의이지만, 끔찍한 재앙이 될 수 있다. 필자는 IBM의 전화 시스템 생산 부문인 ROLM에서 이와 같은 사례를 처음 경험했다. 당시 모든 직원들이 재무 실적을 개선해야 한다는 상당한 압박감에 시달리고 있었다. 그런데 한 대형 고객이 유지보수 계약이 불필요하다고 판단해 계약 체결을 거부하는 사건이 발생했다. 전화 시스템의 내구성이 충분히 높다고 판단했기 때문이었다. 그러자 의욕이 넘치는 지원 담당 엔지니어 한 명이 사고를 쳤다. 고객이 틀렸다는 점을 증명하기 위해 수신 및 발신 통화에 대한 승인권을 변경해 전체 회사의 전화 서비스를 불통 상태로 만...

2014.07.22

2014년 이후, 전지구적 재앙 가능성은?

2013년은 지구와 지구인들에 대한 불길한 예언으로 가득 찼던 한 해였다. 많은 사람들이 태양 폭풍이 가져올 위협에 관심을 기울였다. 기후 변화 역시 마찬가지였다. 지구의 대기는 2013년 이산화탄소 400 ppm을 넘어섰다. 또 생명 연장이 2013년 기술 담론의 일부로 자리를 잡았으며, 앞으로는 더 중요해질 전망이다. 이 밖에 고속 M2M(Machine to Machine)에도 더 많은 관심이 집중됐다. 빛의 속도에 준하는 처리 능력 때문이었다. 내년 이후의 중요한(또는 사소한) 전망을 정리하면 다음과 같다. 전력 그리드의 종말 미 국가 정보위원회(NIC: National Intelligence Council)는 올해 발표한 '2030년 글로벌 전망: 대안 세계 (Global Trends 2030: Alternative Worlds)'라는 보고서에서 자기 폭풍이 전력망에 '큰 위협'이 될 가능성이 있다고 경고했다. . 올해는 태양 폭풍과 관련해 큰 경고가 있었다. 거대 태양 폭풍이 마지막으로 발생한 시기는 1859년이었다. 그런데 현 인류 생전에 이런 태양 폭풍을 다시 직면할 확률이 있다. 실제로 1989년, 태양 폭풍이 퀘벡의 전력 그리드를 무력화시키면서 600만 명이 피해를 입기도 했었다. 보험사인 로이드(Llyod)가 올해 초 발표한 보고서에 따르면, 1989년 수준의 태양 폭풍과 1859년 캐링톤 사건(Carrington Event) 사건을 초래한 거대 태양 폭풍은 각각 50년과 150년을 주기로 되풀이 되는 경향이 있다. 아이다호 국립 연구소(Idaho National Laboratory)의 과학자들은 지자기 교란이 전력망을 방해하고, 더 나아가 전력 그리드의 근간인 송전망을 파괴할 가능성이 있음을 실험을 통해 입증했다. 이런 태양 대 폭풍은 전력 외에도 중대한 사건을 초래할 수 있다. 1859년 태양 대 폭풍은 붉은 섬광으로 도시의 밤을 환하게 물들였다. 멤피스 데일리(Memphis ...

구글 M2M 그리드 이산화탄소 재앙 태양 폭풍 칼리코

2013.12.27

2013년은 지구와 지구인들에 대한 불길한 예언으로 가득 찼던 한 해였다. 많은 사람들이 태양 폭풍이 가져올 위협에 관심을 기울였다. 기후 변화 역시 마찬가지였다. 지구의 대기는 2013년 이산화탄소 400 ppm을 넘어섰다. 또 생명 연장이 2013년 기술 담론의 일부로 자리를 잡았으며, 앞으로는 더 중요해질 전망이다. 이 밖에 고속 M2M(Machine to Machine)에도 더 많은 관심이 집중됐다. 빛의 속도에 준하는 처리 능력 때문이었다. 내년 이후의 중요한(또는 사소한) 전망을 정리하면 다음과 같다. 전력 그리드의 종말 미 국가 정보위원회(NIC: National Intelligence Council)는 올해 발표한 '2030년 글로벌 전망: 대안 세계 (Global Trends 2030: Alternative Worlds)'라는 보고서에서 자기 폭풍이 전력망에 '큰 위협'이 될 가능성이 있다고 경고했다. . 올해는 태양 폭풍과 관련해 큰 경고가 있었다. 거대 태양 폭풍이 마지막으로 발생한 시기는 1859년이었다. 그런데 현 인류 생전에 이런 태양 폭풍을 다시 직면할 확률이 있다. 실제로 1989년, 태양 폭풍이 퀘벡의 전력 그리드를 무력화시키면서 600만 명이 피해를 입기도 했었다. 보험사인 로이드(Llyod)가 올해 초 발표한 보고서에 따르면, 1989년 수준의 태양 폭풍과 1859년 캐링톤 사건(Carrington Event) 사건을 초래한 거대 태양 폭풍은 각각 50년과 150년을 주기로 되풀이 되는 경향이 있다. 아이다호 국립 연구소(Idaho National Laboratory)의 과학자들은 지자기 교란이 전력망을 방해하고, 더 나아가 전력 그리드의 근간인 송전망을 파괴할 가능성이 있음을 실험을 통해 입증했다. 이런 태양 대 폭풍은 전력 외에도 중대한 사건을 초래할 수 있다. 1859년 태양 대 폭풍은 붉은 섬광으로 도시의 밤을 환하게 물들였다. 멤피스 데일리(Memphis ...

2013.12.27

IDG 설문조사

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.

10.5.0.8