예측 애널리틱스 프로젝트가 실패하는 12가지 시나리오 ①

Computerworld

예측 애널리틱스(predictive analytics)에 대해 잘 모르거나, 이미 관련 프로젝트를 진행해 경험해 보았을 수도 있겠다. 어떤 입장에 있건 예측 애널리틱스라는 단어에는 관심이 갈 것이다. 그러나 애석하게도 예측 애널리틱스와 관련한 프로젝트 곳곳에는 함정이 도사리고 있다.

데이터마이닝 전문기업인 엘더 리서치(Elder Research)의 CEO인 존 엘더는 “분석 프로젝트의 대다수는 실수로 가득하다”라고 말했다.

물론 대부분은 치명적인 실수가 아니고 거의 모든 사례에는 개선의 여지가 있다. 그럼에도 많은 프로젝트들이 실패로 끝나곤 한다. 이는 기업이 많은 시간과 비용을 투자했음에도 결과값이 없다는 것을 의미한다.

또 설령 유용한 모델을 개발했다 하더라도 기업 내에서 많은 난관에 봉착하게 된다. 엘더는 자사 프로젝트의 경우 기술적으로는 90%의 성공률을 보였으나, 그 중 65%만이 고객사에 적용되었다고 말했다.

컴퓨터월드는 엘더 리서치(Elder Research), 애봇 애널리틱스(Abbott Analytics), 프리딕션 임팩트(Prediction Impact) 등 3곳의 컨설팅 회사의 전문가들을 대상으로, 최악의 실수에 대해 설문을 진행했다. 이들의 답변을 토대로 다음 리스트를 정리했다. 예측 애널리틱스 프로젝트가 실패로 이어지는 12가지 경우들이다.

1. 목표를 염두에 두지 않고 프로젝트 시작하기
예측 애널리틱스(predictive analytics)에 대해 많은 관심을 가질 수도 있고 예측 애널리틱스가 가진 잠재적 가치에 대해 높게 평가할 수도 있다. 하지만 대부분의 경우 가장 큰 문제는 기업에서 이를 통해 달성하고자 하는 명백한 목표가 없다는 점이다.

엘더리서치에 데이터 예측 애널리틱스를 맡긴 대기업 고객 중 한 곳에서 실제로 이런 일이 일어났다. 엘더리서치는 이 회사와 업무를 같이 진행하기로 합의하고 이 회사를 위한 모델을 개발했다. “하지만 이 회사의 누구도 이 회사에서 무엇을 판매하려는지 알지 못했다. 결과적으로 프로젝트는 좌초됐다”라고 엘더리서치의 영업담당 임원인 제프 딜은 말했다.

제프 딜은 “내부적으로 필요한 목적에 부합하게 데이터를 사용하였지만, 현재까지도 자신이 보유한 데이터의 가치를 누군가 알아주길 바라고 있을 뿐이다”라고 덧붙였다.

이를 통해 알 수 있는 교훈은 예측 애널리틱스 기법을 통해 얻고자 하는 대상이 명확해야 한다는 점이다. 예측 애널리틱스 기법을 적용하기 전에 명확한 목표가 있어야 하는 것이다.

2. 근거로 사용할 수 없는 데이터를 기반으로 프로젝트를 정의하기
한 채권추심회사에서는 악성채무자로부터 대출금을 회수할 때 적용할 수 있는 가장 성공적인 추심 방법에 대해 알고자 했다. 하지만 문제는 이미 이 회사는 엄격한 규정을 설정하고 있었으며 모든 대출금 회수과정에 있어 동일한 절차를 적용해왔다는 점이었다.

“데이터마이닝이란 비교의 기술아더”라고 이 프로젝트를 존속시킨 애봇 애널리틱스의 딘 애봇(Dean Abbott)은 말했다. 이 채권추심회사에서는 이미 동일한 조치를 취하게 하는 규정이 적용되고 있었기 때문에 애봇은 어떠한 절차가 대출금 회수 시 더욱 유용하게 적용될 수 있는지 알 수 없었다. 그는 “역사적 사례 데이터가 있어야만 한다”라고 말했다.

그러한 사례를 찾을 수 없는 경우에는, 의도적으로 실험을 계획해 이러한 사례를 만들어 내야 한다. 왜냐하면 그래야만 수집할 데이터가 생기기 때문이다. 예를 들어, 1,000명의 채무자들을 한 그룹으로 묶어 가정했을 때, 그 중 500명에게는 대출금 상환과 관련한 최후통첩장이 발송될 수도 있고, 나머지 500명에게는 전화통화가 이루어질 수도 있다.

애봇은 “예측 모델을 통해 어떤 채무자들이 최후통첩장에 더 민감한 반응을 보이는지, 혹은 전화통화에 더 민감한 반응을 보이는지에 대해 알 수 있게 된다”라고 말했다. 그리고 채무자들의 특성을 확인하고 분류하기 위해, 채무발생의 패턴, 상환기간, 소득, 거주지 우편번호 등을 검토할 수 있다고 덧붙였다.

그는 이어 “예측 모델에 근거해, 채권추심회사는 모든 채무자에게 동일한 전략을 적용하지 않고, 비용상 가장 효율적인 최적의 전략을 사용할 수 있다. 하지만 이러한 전략을 적용하기 전에 먼저 사전 실험이 이루어 져야 한다. 예측 애널리틱스는 사전 데이터가 없는 상태에서는 적용될 수 없기 때문이다”라고 말했다.

3. 데이터가 완전한 상태로 수집되기 전까지 기다리기
한편 결점이 없는 완벽히 정리된 데이터가 있어야만 예측 애널리틱스를 적용할 수 있다는 잘못된 믿음도 있다.

엘더리서치의 고객사인 한 글로벌 석유화학회사에서는, 영업 관련 데이터가 충분히 구비되지 않은 상황에서 잠정적 투자수익률에 대한 예측 애널리틱스 프로젝트를 시작했다. 주요한 타깃 값(a key target value)이 없는 상황이었다.

새로운 데이터를 수집하기 위해 이 회사가 더 많은 시간을 들인다면, 프로젝트는 1년 이상 지연될 수도 있었다. 엘더리서치의 제프 딜은 “다른 어떤 이유보다 이러한 상황으로 인해 프로젝트가 중단되는 경우가 많다”라고 말했다.

하지만 데이터 전문가들은 정리되지 않은 불완전한 데이터를 다루게 되는 경우가 흔하며, 많은 경우에 있어 문제를 해결할 수 있는 방법을 알고 있다. 이 기업의 경우 불완전한 데이터를 토대로 예측 애널리틱스를 적용하기로 결정했으며 그 결과 데이터 전문가들이 다른 데이터로부터 타깃 값를 찾아내는 방법을 알아 낼 수 있었다.

엘더 리서치의 데이터 전문가인 존 에인스워스에 따르면 이 프로젝트는 이제 본 궤도에 올라 상당한 비용 절감효과를 나타내고 있다. 이는 예측 애널리틱스를 통해 정확히 실패를 예측하고 비용상 어마어마한 손실을 야기하는 공장의 폐쇄를 미연에 방지했기 때문이었다. 에인스워스는 고비용 예방점검 절차를 정확히 적용하는 방법을 알게 되었기 때문에 가능했다고 전했다.

제프 딜은 만약 완전한 데이터를 확보할 수 있을 때까지 시간을 지체했다면 우선순위가 변하고 데이터는 수정되지 않기 때문에 이러한 비용절감 효과는 발생하기 어려웠을 것이라고 설명했다.


4. 잘못된 데이터를 이용하기
프리딕션 임팩트(Prediction Impact)의 사장이자 예측 애널리틱스에 대한 저서(Predictive Analytics: The Power to Predict Who Will Click, Buy, Lie, or Die)의 저자이기도 한 에릭 시겔은 포천 1000대 금융회사 중 한 곳과 일한 적이 있었다. 이 고객사는 자사가 고용한 콜센터 인력 중 가장 오랜 기간 근속할 직원들이 누구인지에 대해 알고자 했다.

데이터 분석에 착수한지 얼마 되지 않아 고졸 미만의 학력을 가진 직원들은 그렇지 않은 직원들에 비해 평균적으로 9개월 이상 더 근속할 확률이 2.6배 가량 된다는 결론이 도출됐다. 시겔은 이러한 결과를 바탕으로 “고등학교 중퇴자를 적극적으로 고용할 것을 권고할 뻔 했다”라고 전했다.

하지만 문제가 있었다. 첫 번째 문제는 데이터였다. 이력서를 통해 지원자가 수동으로 입력한 데이터의 경우 일관성 없이 분류돼 있었다. 두 번째 문제는 분류를 담당한 사람에 있었다. 데이터 담당자 한 명이 모든 지원자의 학력수준을 다시 체크했으며, 다른 담당자는 지원자의 최종 학위를 검토했다. 그런데 어떠한 이유에서인지는 명확하지는 않지만 지원자의 최종학위를 검토했던 담당자가 근속연수가 가장 높은 지원자의 최종 학력을 실제보다 더 높게 표시했으며 이로 인해 문제가 발생했던 것이다.

결국 분류 담당자에게 무작위로 직원들의 입사지원서를 배분해 입력하게 하고 모든 담당자가 동일한 방법을 통해 분류하는 과정을 통해 잘못된 결론을 방지할 수 있다.
시겔은 “데이터를 올바로 분류해야만 데이터의 질적 확실성을 보장할 수 있고 이것이 예측 애널리틱스 결과에도 지대한 영향을 미친다”라고 말했다.

5. 미래의 데이터를 근거로 미래를 예측하기
데이터 웨어하우스와 관련한 문제 중 하나는 고정적(static)이지 않다는 것이다. 즉, 정보는 끊임없이 변하고 업데이트된다. 하지만 예측 애널리틱스는 귀납적 러닝 프로세스다. 즉 모델 창출을 위해 과거의 데이터나 학습용 데이터(training data)를 분석하는데 의존한다. 따라서 예측 애널리틱스 이용자는 데이터 상태가 고객 라이프사이클(customer lifecycle) 상에서 초기 상태로 존재할 수 있도록 해야 한다.

데이터의 시간이 기록되어 있지 않다면 이는 미래의 데이터가 포함될 가능성이 높아지는 것을 의미하며, 이는 결과적으로 잘못된 분석결과를 내놓기가 더 쉬워진다는 의미다.

이러한 일이 한 지역의 차량정비 대행업체(auto club)에서 일어났다. 이 업체에서는 회원 중 보험상품을 구매할 확률이 가장 높은 회원을 예상하는 모델을 구축하기 위해 예측 애널리틱스 모델을 구축하고자 했다.

모델 구축을 위해 이 업체는 어느 시점에 회원들이 보험상품 가입을 원했거나 원치 않았는지를 확인하기 전에 이전의 데이터셋을 되살릴 필요가 있었다. 그리고 나서 부차적인 데이터(subsequent data)를 제외시켰다. 이 업체는 전화, 팩스, 이메일 데이터 등의 텍스트 변수를 포함한 의사결정 트리(a decision tree)를 만들었다. 그러자 이 변수에 텍스트가 포함될 경우, 이들이 이후 보험상품을 구입할 확률은 100%라는 터무니없는 결과가 나왔다.

엘더는 “보험을 구입하기 전에 보험을 해지할 수는 없다” 라며, 따라서 예측 애널리틱스 모델을 수립할 때 데이터 중 일부는 별도로 관리해야 한다고 설명했다.

6. 데이터가 완벽히 수집되었다고 생각해 서두르기
예측 애널리틱스 프로젝트를 새로 시작할 때 전체 소요시간의 60~80%는 데이터 준비에 사용된다고 엘더 리서치는 설명했다. 분석 전문가들은 여러 소스로부터 데이터를 취합하고, 데이터 테이블을 취합하는 등 다양한 일을 해야 한다. 그리고 이러한 과정은 심지어 1년까지도 소요될 수 있다.

일부 기업에서 자사의 데이터가 오염되지 않은 상태라고 확신하기도 하지만, 애봇에 따르면 완벽한 데이터를 갖추고 있는 조직은 본적이 없다고 강조했다. 따라서 예상치 못했던 문제가 항상 일어날 수 있다는 설명이다.

한 제약회사의 경우를 생각해보자. 이 회사는 프로젝트 수행을 위해 엘더리서치의 도움을 받았다. 하지만 데이터를 취합하는 도중 리서치 회사에서 속도를 내고 업무를 추진할 것을 주문했다. 엘더리서치는 이러한 요청에 어쩔 수 없이 부응했다. 그리고 프로젝트는 줄어든 예산과 기간으로 진행됐다.

하지만 프로젝트가 시작되었을 때, 이 회사는 문제를 발견했다. 일부 발주의 선적일이 발주일보다 더 이전이었던 것이다. 딜은 “이는 어쩔 수 없는 문제이며, 문제의 해결을 위해 일정 시간이 필요하다”라며, 하지만 프로젝트의 규모가 축소되어 예산이 많지 않아 다시금 문제에 봉착하게 됐다고 전했다.

엘더리서치에서 이 문제를 지적하자 기업 측은 문제를 깨달았고 경영진에게 어떠한 이유에서 프로젝트에 더 많은 시일이 걸리게 되는지 설명해야 했다. 딜은 “신뢰성 문제가 제기될 수 밖에 없다”라고 전했다.

즉 아무리 기업의 데이터가 완전하다고 생각하더라도, 문제가 발생하는 상황을 예견해야 한다. 기대수준을 보수적으로 잡고 프로젝트를 진행해야 하는 것이다.

-> 예측 애널리틱스 프로젝트가 실패하는 12가지 시나리오 ②
ciokr@idg.co.kr