2013.08.05

예측 애널리틱스 프로젝트가 실패하는 12가지 시나리오 ①

Robert L. Mitchell | Computerworld

예측 애널리틱스(predictive analytics)에 대해 잘 모르거나, 이미 관련 프로젝트를 진행해 경험해 보았을 수도 있겠다. 어떤 입장에 있건 예측 애널리틱스라는 단어에는 관심이 갈 것이다. 그러나 애석하게도 예측 애널리틱스와 관련한 프로젝트 곳곳에는 함정이 도사리고 있다.

데이터마이닝 전문기업인 엘더 리서치(Elder Research)의 CEO인 존 엘더는 “분석 프로젝트의 대다수는 실수로 가득하다”라고 말했다.

물론 대부분은 치명적인 실수가 아니고 거의 모든 사례에는 개선의 여지가 있다. 그럼에도 많은 프로젝트들이 실패로 끝나곤 한다. 이는 기업이 많은 시간과 비용을 투자했음에도 결과값이 없다는 것을 의미한다.

또 설령 유용한 모델을 개발했다 하더라도 기업 내에서 많은 난관에 봉착하게 된다. 엘더는 자사 프로젝트의 경우 기술적으로는 90%의 성공률을 보였으나, 그 중 65%만이 고객사에 적용되었다고 말했다.

컴퓨터월드는 엘더 리서치(Elder Research), 애봇 애널리틱스(Abbott Analytics), 프리딕션 임팩트(Prediction Impact) 등 3곳의 컨설팅 회사의 전문가들을 대상으로, 최악의 실수에 대해 설문을 진행했다. 이들의 답변을 토대로 다음 리스트를 정리했다. 예측 애널리틱스 프로젝트가 실패로 이어지는 12가지 경우들이다.

1. 목표를 염두에 두지 않고 프로젝트 시작하기
예측 애널리틱스(predictive analytics)에 대해 많은 관심을 가질 수도 있고 예측 애널리틱스가 가진 잠재적 가치에 대해 높게 평가할 수도 있다. 하지만 대부분의 경우 가장 큰 문제는 기업에서 이를 통해 달성하고자 하는 명백한 목표가 없다는 점이다.

엘더리서치에 데이터 예측 애널리틱스를 맡긴 대기업 고객 중 한 곳에서 실제로 이런 일이 일어났다. 엘더리서치는 이 회사와 업무를 같이 진행하기로 합의하고 이 회사를 위한 모델을 개발했다. “하지만 이 회사의 누구도 이 회사에서 무엇을 판매하려는지 알지 못했다. 결과적으로 프로젝트는 좌초됐다”라고 엘더리서치의 영업담당 임원인 제프 딜은 말했다.

제프 딜은 “내부적으로 필요한 목적에 부합하게 데이터를 사용하였지만, 현재까지도 자신이 보유한 데이터의 가치를 누군가 알아주길 바라고 있을 뿐이다”라고 덧붙였다.

이를 통해 알 수 있는 교훈은 예측 애널리틱스 기법을 통해 얻고자 하는 대상이 명확해야 한다는 점이다. 예측 애널리틱스 기법을 적용하기 전에 명확한 목표가 있어야 하는 것이다.

2. 근거로 사용할 수 없는 데이터를 기반으로 프로젝트를 정의하기
한 채권추심회사에서는 악성채무자로부터 대출금을 회수할 때 적용할 수 있는 가장 성공적인 추심 방법에 대해 알고자 했다. 하지만 문제는 이미 이 회사는 엄격한 규정을 설정하고 있었으며 모든 대출금 회수과정에 있어 동일한 절차를 적용해왔다는 점이었다.

“데이터마이닝이란 비교의 기술아더”라고 이 프로젝트를 존속시킨 애봇 애널리틱스의 딘 애봇(Dean Abbott)은 말했다. 이 채권추심회사에서는 이미 동일한 조치를 취하게 하는 규정이 적용되고 있었기 때문에 애봇은 어떠한 절차가 대출금 회수 시 더욱 유용하게 적용될 수 있는지 알 수 없었다. 그는 “역사적 사례 데이터가 있어야만 한다”라고 말했다.

그러한 사례를 찾을 수 없는 경우에는, 의도적으로 실험을 계획해 이러한 사례를 만들어 내야 한다. 왜냐하면 그래야만 수집할 데이터가 생기기 때문이다. 예를 들어, 1,000명의 채무자들을 한 그룹으로 묶어 가정했을 때, 그 중 500명에게는 대출금 상환과 관련한 최후통첩장이 발송될 수도 있고, 나머지 500명에게는 전화통화가 이루어질 수도 있다.

애봇은 “예측 모델을 통해 어떤 채무자들이 최후통첩장에 더 민감한 반응을 보이는지, 혹은 전화통화에 더 민감한 반응을 보이는지에 대해 알 수 있게 된다”라고 말했다. 그리고 채무자들의 특성을 확인하고 분류하기 위해, 채무발생의 패턴, 상환기간, 소득, 거주지 우편번호 등을 검토할 수 있다고 덧붙였다.

그는 이어 “예측 모델에 근거해, 채권추심회사는 모든 채무자에게 동일한 전략을 적용하지 않고, 비용상 가장 효율적인 최적의 전략을 사용할 수 있다. 하지만 이러한 전략을 적용하기 전에 먼저 사전 실험이 이루어 져야 한다. 예측 애널리틱스는 사전 데이터가 없는 상태에서는 적용될 수 없기 때문이다”라고 말했다.

3. 데이터가 완전한 상태로 수집되기 전까지 기다리기
한편 결점이 없는 완벽히 정리된 데이터가 있어야만 예측 애널리틱스를 적용할 수 있다는 잘못된 믿음도 있다.

엘더리서치의 고객사인 한 글로벌 석유화학회사에서는, 영업 관련 데이터가 충분히 구비되지 않은 상황에서 잠정적 투자수익률에 대한 예측 애널리틱스 프로젝트를 시작했다. 주요한 타깃 값(a key target value)이 없는 상황이었다.

새로운 데이터를 수집하기 위해 이 회사가 더 많은 시간을 들인다면, 프로젝트는 1년 이상 지연될 수도 있었다. 엘더리서치의 제프 딜은 “다른 어떤 이유보다 이러한 상황으로 인해 프로젝트가 중단되는 경우가 많다”라고 말했다.

하지만 데이터 전문가들은 정리되지 않은 불완전한 데이터를 다루게 되는 경우가 흔하며, 많은 경우에 있어 문제를 해결할 수 있는 방법을 알고 있다. 이 기업의 경우 불완전한 데이터를 토대로 예측 애널리틱스를 적용하기로 결정했으며 그 결과 데이터 전문가들이 다른 데이터로부터 타깃 값를 찾아내는 방법을 알아 낼 수 있었다.

엘더 리서치의 데이터 전문가인 존 에인스워스에 따르면 이 프로젝트는 이제 본 궤도에 올라 상당한 비용 절감효과를 나타내고 있다. 이는 예측 애널리틱스를 통해 정확히 실패를 예측하고 비용상 어마어마한 손실을 야기하는 공장의 폐쇄를 미연에 방지했기 때문이었다. 에인스워스는 고비용 예방점검 절차를 정확히 적용하는 방법을 알게 되었기 때문에 가능했다고 전했다.

제프 딜은 만약 완전한 데이터를 확보할 수 있을 때까지 시간을 지체했다면 우선순위가 변하고 데이터는 수정되지 않기 때문에 이러한 비용절감 효과는 발생하기 어려웠을 것이라고 설명했다.




2013.08.05

예측 애널리틱스 프로젝트가 실패하는 12가지 시나리오 ①

Robert L. Mitchell | Computerworld

예측 애널리틱스(predictive analytics)에 대해 잘 모르거나, 이미 관련 프로젝트를 진행해 경험해 보았을 수도 있겠다. 어떤 입장에 있건 예측 애널리틱스라는 단어에는 관심이 갈 것이다. 그러나 애석하게도 예측 애널리틱스와 관련한 프로젝트 곳곳에는 함정이 도사리고 있다.

데이터마이닝 전문기업인 엘더 리서치(Elder Research)의 CEO인 존 엘더는 “분석 프로젝트의 대다수는 실수로 가득하다”라고 말했다.

물론 대부분은 치명적인 실수가 아니고 거의 모든 사례에는 개선의 여지가 있다. 그럼에도 많은 프로젝트들이 실패로 끝나곤 한다. 이는 기업이 많은 시간과 비용을 투자했음에도 결과값이 없다는 것을 의미한다.

또 설령 유용한 모델을 개발했다 하더라도 기업 내에서 많은 난관에 봉착하게 된다. 엘더는 자사 프로젝트의 경우 기술적으로는 90%의 성공률을 보였으나, 그 중 65%만이 고객사에 적용되었다고 말했다.

컴퓨터월드는 엘더 리서치(Elder Research), 애봇 애널리틱스(Abbott Analytics), 프리딕션 임팩트(Prediction Impact) 등 3곳의 컨설팅 회사의 전문가들을 대상으로, 최악의 실수에 대해 설문을 진행했다. 이들의 답변을 토대로 다음 리스트를 정리했다. 예측 애널리틱스 프로젝트가 실패로 이어지는 12가지 경우들이다.

1. 목표를 염두에 두지 않고 프로젝트 시작하기
예측 애널리틱스(predictive analytics)에 대해 많은 관심을 가질 수도 있고 예측 애널리틱스가 가진 잠재적 가치에 대해 높게 평가할 수도 있다. 하지만 대부분의 경우 가장 큰 문제는 기업에서 이를 통해 달성하고자 하는 명백한 목표가 없다는 점이다.

엘더리서치에 데이터 예측 애널리틱스를 맡긴 대기업 고객 중 한 곳에서 실제로 이런 일이 일어났다. 엘더리서치는 이 회사와 업무를 같이 진행하기로 합의하고 이 회사를 위한 모델을 개발했다. “하지만 이 회사의 누구도 이 회사에서 무엇을 판매하려는지 알지 못했다. 결과적으로 프로젝트는 좌초됐다”라고 엘더리서치의 영업담당 임원인 제프 딜은 말했다.

제프 딜은 “내부적으로 필요한 목적에 부합하게 데이터를 사용하였지만, 현재까지도 자신이 보유한 데이터의 가치를 누군가 알아주길 바라고 있을 뿐이다”라고 덧붙였다.

이를 통해 알 수 있는 교훈은 예측 애널리틱스 기법을 통해 얻고자 하는 대상이 명확해야 한다는 점이다. 예측 애널리틱스 기법을 적용하기 전에 명확한 목표가 있어야 하는 것이다.

2. 근거로 사용할 수 없는 데이터를 기반으로 프로젝트를 정의하기
한 채권추심회사에서는 악성채무자로부터 대출금을 회수할 때 적용할 수 있는 가장 성공적인 추심 방법에 대해 알고자 했다. 하지만 문제는 이미 이 회사는 엄격한 규정을 설정하고 있었으며 모든 대출금 회수과정에 있어 동일한 절차를 적용해왔다는 점이었다.

“데이터마이닝이란 비교의 기술아더”라고 이 프로젝트를 존속시킨 애봇 애널리틱스의 딘 애봇(Dean Abbott)은 말했다. 이 채권추심회사에서는 이미 동일한 조치를 취하게 하는 규정이 적용되고 있었기 때문에 애봇은 어떠한 절차가 대출금 회수 시 더욱 유용하게 적용될 수 있는지 알 수 없었다. 그는 “역사적 사례 데이터가 있어야만 한다”라고 말했다.

그러한 사례를 찾을 수 없는 경우에는, 의도적으로 실험을 계획해 이러한 사례를 만들어 내야 한다. 왜냐하면 그래야만 수집할 데이터가 생기기 때문이다. 예를 들어, 1,000명의 채무자들을 한 그룹으로 묶어 가정했을 때, 그 중 500명에게는 대출금 상환과 관련한 최후통첩장이 발송될 수도 있고, 나머지 500명에게는 전화통화가 이루어질 수도 있다.

애봇은 “예측 모델을 통해 어떤 채무자들이 최후통첩장에 더 민감한 반응을 보이는지, 혹은 전화통화에 더 민감한 반응을 보이는지에 대해 알 수 있게 된다”라고 말했다. 그리고 채무자들의 특성을 확인하고 분류하기 위해, 채무발생의 패턴, 상환기간, 소득, 거주지 우편번호 등을 검토할 수 있다고 덧붙였다.

그는 이어 “예측 모델에 근거해, 채권추심회사는 모든 채무자에게 동일한 전략을 적용하지 않고, 비용상 가장 효율적인 최적의 전략을 사용할 수 있다. 하지만 이러한 전략을 적용하기 전에 먼저 사전 실험이 이루어 져야 한다. 예측 애널리틱스는 사전 데이터가 없는 상태에서는 적용될 수 없기 때문이다”라고 말했다.

3. 데이터가 완전한 상태로 수집되기 전까지 기다리기
한편 결점이 없는 완벽히 정리된 데이터가 있어야만 예측 애널리틱스를 적용할 수 있다는 잘못된 믿음도 있다.

엘더리서치의 고객사인 한 글로벌 석유화학회사에서는, 영업 관련 데이터가 충분히 구비되지 않은 상황에서 잠정적 투자수익률에 대한 예측 애널리틱스 프로젝트를 시작했다. 주요한 타깃 값(a key target value)이 없는 상황이었다.

새로운 데이터를 수집하기 위해 이 회사가 더 많은 시간을 들인다면, 프로젝트는 1년 이상 지연될 수도 있었다. 엘더리서치의 제프 딜은 “다른 어떤 이유보다 이러한 상황으로 인해 프로젝트가 중단되는 경우가 많다”라고 말했다.

하지만 데이터 전문가들은 정리되지 않은 불완전한 데이터를 다루게 되는 경우가 흔하며, 많은 경우에 있어 문제를 해결할 수 있는 방법을 알고 있다. 이 기업의 경우 불완전한 데이터를 토대로 예측 애널리틱스를 적용하기로 결정했으며 그 결과 데이터 전문가들이 다른 데이터로부터 타깃 값를 찾아내는 방법을 알아 낼 수 있었다.

엘더 리서치의 데이터 전문가인 존 에인스워스에 따르면 이 프로젝트는 이제 본 궤도에 올라 상당한 비용 절감효과를 나타내고 있다. 이는 예측 애널리틱스를 통해 정확히 실패를 예측하고 비용상 어마어마한 손실을 야기하는 공장의 폐쇄를 미연에 방지했기 때문이었다. 에인스워스는 고비용 예방점검 절차를 정확히 적용하는 방법을 알게 되었기 때문에 가능했다고 전했다.

제프 딜은 만약 완전한 데이터를 확보할 수 있을 때까지 시간을 지체했다면 우선순위가 변하고 데이터는 수정되지 않기 때문에 이러한 비용절감 효과는 발생하기 어려웠을 것이라고 설명했다.


X