데이터 전문가 네이트 실버가 말하는 데이터에 관한 진실

미국 최고의 통계 전문가 네이트 실버에 따르면, 데이터가 많아지면 그 가운데서 '알짜만 골라 가는' 사람들도 늘어난다고 주장했다.

통계 전문가 네이트 실버는 "빅 데이터로 인해 사용자들의 시야가 넓어졌다고 생각하겠지만, '다다익선'이 적용되지 않는 경우도 있다"고 말했다. 실버는 2012년 대통령 선거에서 자신의 블로그 'Five Thirty Eight blog'에서 50개 주의 선거 결과를 모두 정확히 예측해 유명세를 얻은 바 있다.

네이트 실버에 따르면, 데이터가 많을 수록 원하는 결과를 보여줄 데이터 포인트(data point)를 고를 수 있는 사람도 늘어난다.

특히 많은 사람이 결과에 관심을 갖는 정치 분야의 경우 너무 많은 데이터가 문제가 되며, 이 외에도 의학 분야, 지진 예측 등 다양한 분야에서 너무 많은 데이터는 오히려 방해가 된다. 대부분 연구원들은 관심있는 결과만 보고 싶어할 뿐 이미 알고 있는 정보까지 같이 보려 하지 않는다.

5월 8일, 미국 보스턴에서 열린 RMS 익시던스 컨퍼런스(RMS Exceedance conference)에서 실버는 빅 데이터가 실용적인 통찰력을 주는 것은 사실이지만 '무의미한 데이터의 관계 속에서 쓰레기같은 쓸모 없는 상관 관계' 역시 생겨난다고 말했다.

이 날 컨퍼런스에서 RMS 사는 새로운 클라우드 기반 RMS 리스크 관리 플랫폼을 발표했다. 뉴욕 타임즈에 기재되는 블로그 외에도, 실버는 <유용한 신호와 의미없는 잡음, 예측의 성패를 좌우하는 요인(The Signal and the Noise: why so many predictions fail -- but some don't)>의 저자이기도 하다.

실버는 컨퍼런스에서 데이터를 좀 더 효과적으로 활용하고 공유하는 방법에 대한 네 가지 팁을 공개했다.

1. 확률적으로 사고해야 한다. 절대적인 확신을 찾지 말고 가능성 위주로 탐구해야 한다.

대부분 여론조사에 오차 범위가 있듯이, 사람에 따라서는 이해 못 할 수도 있지만, 예측에 따르는 불확실성에 대해 과감히 소통해야 한다. 일부에서는 실버가 대통령 선거 결과 예측에서 했듯이 자신의 예측에 자신감을 가져야 한다는 결론을 비판했지만, 그럼에도 불구하고 불확실성을 확실히 전달하는 것은 '매우 중요하고 효과적인 방법'이다.

실버는 "오히려, 그렇게 하지 않을 경우 심각한 결과가 초래될 수 있다"고 말했다. 1997년 미국기상청에서 그랜드포크스 레드 강(Red River)에 49피트(14.9m)에 달하는 홍수를 예측한 일이 있었다. 51피트(15.5m) 높이의 홍수까지 견딜 수 있는 둑이 있었으므로 지역 주민들은 안심하고 있었다.

불행히도, 미국기상청에서는 그랜드 포크스 주민들에게 과거 일기예보에 기반한 오차 범위인 ±9피트(2.7m)를 알려 주지 않았다. 그 홍수로 인해 레드 강은 54피트(16.4m)까지 불어났고, 그 지역 일대는 물에 잠기게 되었다.

그 결과 현재 미국기상청은 일기예보의 오차 범위를 정확하게 전달하고 있다고 실버는 말했다. 실버는 허리케인의 예측 진행 경로에 따르는 '불확실성의 원추(cone of uncertainty)'를 인용했다. '시각적으로' 불확실성을 보여주면 사람들이 예측된 정보를 받아들이는 데 도움이 된다고.

2. 가능성 예측은 '무지와 확신의 중간 지점'이지만, 아직 확실하다고 볼 수 없는 상태다.
실버는 "자신이 어디서 시작했는지 아는 것, 즉 다시 말해 자신의 예측에서 보완할 점이 무엇인지 알고 특정한 결론에 도달하려는 의지가 필요하다. 예측은 그 예측의 가장 불완전한 부분으로 정의된다"고 말했다.

실버는 성에 대한 편견을 주제로 실행한 한 실험을 소개했다. 이 실험에서, 비슷한 경력이 적힌 이력서를 사람들에게 보여주고, 한 이력서에는 여성의 이름이, 다른 이력서에는 남성의 이름이 적혀 있었다.

성에 대한 편견이 전혀 없다고 얘기한 사람들이 실제로는 훨씬 더 여성에 대한 성차별이 심한 것으로 나타났다. 왜일까? 실버는 "자신에게 이런 성향이 있음을 알고 있는 사람들은 표면적으로 그렇게 보이지 않기 위해 노력하기 때문"이라고 설명했다.

3. 데이터를 조사하되, 예측에 확신을 갖기 전에는 오차 범위를 남겨둬야 한다.
다시 말해, 기후가 온화한 샌디에고의 날씨를 정확히 예측하는 것 보다 변덕스러운 버팔로 날씨를 예측하는 것이 훨씬 더 놀라운 일이다.

마찬가지로, 경제 상황의 등락이 심한 때보다 안정적일 때 경제 예측을 하는 것이 더 쉽다. 그렇기 때문에 불경기를 예측하기가 어려운 것이다.

경제 상황을 예측하는 학자들은 1986년에서 2006년 사이의 데이터, 즉 경기 상황이 불안정했을 때의 데이터를 기반으로 경제 모형을 만들었다. 실버는 "어리석은 가정에 기반해 모형을 만들면 분석이 아무리 정교해도 별 효용이 없을 것"이라고 지적했다.

4. 마지막으로, 여러 번의 시도와 실수가 도움이 된다.
실버는 "예측 모형은 많은 피드백을 받으며 천천히 생성될수록 정확해진다. 인생의 많은 것이 그렇듯, 너무 기적 같은 결과에 대해서는 의심해 봐야 한다"고 말했다. editor@itworld.co.kr