하둡으로 가는 길 | 제2부 하둡 대 RDBMS 비용

ITWorld
하둡의 오픈소스라는 특성은 예산이 빠듯한 기업들에게 매력적인 요인으로 작용할 것이다.

많은 사람들은 오픈소스 데이터 프레임워크인 하둡을 아주 방대한 양의 데이터 관리와 관련시켜 생각한다. 여기에는 물론 나름대로 합당한 이유들이 있다:  하둡 스토리지는 누구라도 막대한 양의 데이터를 떠올릴만한 페이스북과 야후가 사용하고 있다. 하둡으로 가는 길 | 제 1부에서도 설명했듯 하둡의 얼리 어답터이자 엄청난 기여자 야후는 이미 5만 개의 노드로 구성된 하둡 네트워크를 설치했으며, 페이스북은 1만 개가 넘는 노드로 구성된 하둡 시스템을 갖췄다.

자 그렇다면 빅 데이터의 ‘빅’은 마련된 것이다.

->하둡으로 가는 길 | 제1부 기술과 훈련
->하둡으로 가는 길 | 제3부 RDBMS에서 하둡으로 전환

그러나 아파치소프트웨어재단(ASF)의 아파치 하둡 부사장이자 호트웍스의 아키텍트인 아룬 머시는 하둡과 기업 내 하둡의 사용에 대해 이견을 제기했다. 머시는 하둡의 활용이 빅 데이터를 훨씬 넘어선다고 주장하는 사람이다. 하둡의 가장 강력한 능력 중 하나는 바로 확장성이며, 야후와 페이스북은 하둡이 어떻게 확장될 수 있는지를 보여주는 훌륭한 예들이다. 그러나 하둡이 다른 방향으로 어떻게 스케일링(scaling)할 수 있으며 어떻게 모든 규모의 기업들에게 의사결정에 필요한 분석 데이터를 제공할 수 있을지에 대해서는 별다른 의견이 없다.

모든 데이터가 동등하게 생성된다
머시의 설명에 따르면 이전의 데이터 스토리지에는 비용이 많이 들었다. 5년 전만 해도 대기업과 중소기업(SMB)들은 폭발적으로 증가하는 데이터 셋(data set)들을 계속해서 기록하고 스스로 관리해야 했다: 이메일, 검색결과, 판매 데이터, 재고 데이터, 고객 데이터, 웹의 클릭 경로 등 이 모든 정보들과 그 외의 더 많은 데이터들이 쏟아져 들어왔고 이를 관계형 데이터베이스 관리시스템(RDBMS)에서 관리하겠다는 것은 막대한 비용이 따르는 계획이었다.

제대로 된 데이터 관리 기능과 비용 절감을 동시에 추구하는 기업은 들어오는 모든 이벤트 및 신호 데이터들을 일반적으로 더 작은 하위집합들로 샘플링할 것이고 이렇게 하향샘플링(downsample)된 데이터를 머시는 ‘히스토리컬 데이터(historical data)’라고 불렀다. 이 데이터는 자동으로 특정 가정에 근거해 분류되며 그 중에서도 어떤 데이터가 다른 데이터들보다 항상 더 중요할 것이라는 가정이 가장 우선적으로 작용할 것이다.
 
예를 들면 전자상거래 데이터에서 우선 순위는 신용카드 데이터가 제품 데이터보다 중요하며 제품 데이터는 클릭 경로 데이터보다 중요하다는 합리적인 가정이 수립될 것이다.

이렇게 하나의 주어진 가정 집합에 근거한 비즈니스 모델을 운영한다면 비즈니스 의사결정을 위한 정보들을 끌어내기가 별로 어렵지 않을 것이다. 하지만 이 정보들은 항상 초기 가정들에 입각해 있을 것이고 만약 그 가정 자체가 바뀌면 어떻게 될까? 데이터가 이전에 이미 하향샘플링을 거쳤기 때문에 모든 원 데이터(raw data)는 이미 오래 전에 사라져버렸을 것이고 어떠한 새로운 비즈니스 시나리오든 스토리지에 남아있는 걸러진 데이터를 사용해야 할 것이다.

게다가 RDBMS기반 스토리지의 비용 부담으로 이 데이터는 종종 기관 내부에서 격리된 채로 저장된다. 영업부의 데이터는 영업부가, 마케팅부의 데이터는 마케팅부가, 회계부의 데이터는 회계부가, 그 외 여타 부서들도 마찬가지로 각 부서가 자신들의 데이터를 보관할 것이다. 따라서 비즈니스 모델과 관련된 결정들은 기업 전체가 아니라 기업의 각 부서들로 제한될 것이다.


머시는 “하둡을 이용하면 그냥 모든 데이터를 저장하면 되기 때문에 아무런 가정도 필요하지 않다”라고 주장했다.

이러한 사실은 비록 하둡의 낮은 경제적 비용이라는 이점 뒤에 가려져 많이 주목 받지 못하고 있지만 아마도 하둡의 가장 큰 장점일 것이다. 머시는 “하향샘플링은 어떤 특정 데이터가 다른 데이터들보다 더 크고 더 중요할 것이라는 가정을 토대로 한다. 그러나 하둡에서는 모든 데이터가 동등한 가치를 갖는다”라고 설명했다.

모든 데이터의 가치가 동등하고, 각각이 비슷한 수준으로 이용될 수 있기 때문에, 비즈니스 시나리오들은 언제라도 아무런 제약 없이 원 데이터를 가지고 추진될 수 있다. 게다가 이전에는 사일로화 됐었던 데이터들에도 동등하게 접근할 수 있으며 이들을 공유함으로써 기업 비즈니스를 더 크게, 전체적으로 접근해 분석할 수 있을 것이다.  

이제는 히스토리컬 데이터라는 것이 사라진다는 점에서 데이터가 어떻게 인식될 것인가의 변화는 실로 엄청나다. 게다가 데이터가 있는 그대로 저장될 수 있기 때문에 추출, 변환, 로드 연산 등과 관련된 데이터 관리 일들이 많이 줄어들 것이다.

비용은 얼마나 드나
하둡의 여러 장점들 중에서도 저렴한 비용이 단연 가장 많은 주목을 받고 있다는 사실에는 반론의 여지가 없다. 아파치 소프트웨어 라이선스에 따라 전체 프레임워크가 오픈소스이기 때문에 기본 소프트웨어에 대한 라이선스료(licensing fee)를 지불하지 않아도 된다.

하둡 프레임워크의 창안자 중 한 명인 더그 커팅을 채용한 상용 하둡업체 클라우데라(Cloudera)는 오픈 코어 모델(open core model)을 사용하며 따라서 하둡 기본 소프트웨어는 무료이지만 클라우데라의 연장 도구에는 라이선스료를 지불해야 한다. 머시가 야후의 하둡 팀에서 함께 근무했던 몇 명의 직원들과 2011년 초 공동 창업한 호튼웍스는 모든 소프트웨어를 무료로 그리고 오픈소스로 제공하는 대신 교육과 지원 프로그램 등을 통해 수익을 올리고 있다.

그 이외에도 하둡에는 비용을 절약할 수 있는 여러 특성들이 있다: RDBMS와는 다르게 하둡은 고가의 하드웨어나 고성능 프로세서들을 필요로 하지 않는다. 하둡 네트워크에 연결된 상용 서버면 충분하다. 즉 하둡 노드는 오로지 프로세서 하나, 네트워크 카드 하나, 하드 드라이브 몇 개만을 필요로 하는데 이들을 총 합치면 약 4,000달러 정도 수준이다; 반면 RDBMS 시스템은 TB당 1만에서 1만 4,000달러 정도의 비용이 든다. 이렇게 큰 비용 차이는 결정적으로 왜 하둡이 그렇게 큰 주목을 받는지, 그리고 왜 마땅히 주목 받아야 하는지에 대한 설명이 된다.

하지만 기업들이 그렇게 절약된 비용으로 다른 효과를 만들어내기는커녕 그 돈으로 하둡 마이그레이션 계획에 마구잡이로 달려들지 않도록 신중해야 한다. 제1부에서 언급했던 하둡 시스템 엔지니어들과 괸리자들에게 필요한 경험 유형으로 비춰볼 때 자사만의 하둡을 설치하고자 하는 기업들은 결과적으로 인건비에 엄청난 웃돈을 지불하게 될 가능성이 크다. 기업이 하둡의 상용 버전을 배치하든 무료 버전을 배치하든 별 상관없이 말이다. 사실 지금도 이미 충분한 자격을 갖춘 하둡 엔지니어들에 대한 시장 수요가 매우 치열하여 가장 규모가 큰 하둡 이용자인 구글과 페이스북 사이에서 뛰어난 하둡 엔지니어들을 놓고 수백만 달러의 입찰 경쟁들이 벌어지고 있다.

기업에서는 배치한 소프트웨어가 무엇이든 간에 훌륭한 하둡 직원들에게 많은 돈을 지불해야 할 것이다. 필요와 지역에 따라 어디에서건 12만 달러에서 19만 달러의 연봉이 될 수 있다(거래를 성사시키기 위해 추가로 제시해야 할지도 모를 스톡옵션이나 특전 등은 이 금액에 포함되지 않는다). 그러나 이러한 금액이 하드웨어와 소프트웨어 비용 절감을 충분히 상쇄시킬 정도인가?
 

하둡 무료 소프트웨어를 전부 설치한다고 가정할 때, 하나당 4,000달러인 노드 100개 비용을 3년 간 분할상환하고 엔지니어는 15만 달러의 봉급을 받는다고 가정하면 다음과 같은 계산이 나온다:

시간당 하드웨어 비용(총 3년간): 15.21달러

시간당 유지 비용: 17.11달러


이를 합산하면 전체 시스템의 운용비용은 시간당 32달러 혹은 연간 283,320달러(전기 요금 제외)가 된다.

한편 유사한 규모의 RDBMS 시스템을 생각해보면 오라클은 지난 2008년 저장용량이 168TB인 데이터베이스 기기의 가격을 하드웨어에 65만 달러, 소프트웨어에 168만 달러로 책정했다. 따라서 이 시스템은 TB당 1만 4,000 달러 수준이라는 엄청난 비용이 든다. 오라클 데이터베이스 관리자의 연봉이 약 9만 5,000 달러라고 가정할 때 운용 비용은 다음과 같이 계산할 수 있다.

시간당 하드웨어 비용 (총 3년간): 88.60달러

시간당 유지 비용: 10.27달러


여기에서 오라클 관리자의 연봉을 낮추고 하둡 엔지니어에게 훨씬 많은 웃돈을 지불하게 되면 오라클 시스템의 운용 비용은 시간당 98.87달러 연간 86만 6,694달러가 될 것이다. 이는 유사한 규모의 하둡을 배치할 때보다 세배가 넘는 비용으로 그 차이가 매우 크다.

RDBMS의 성능을 낮춘다 하더라도 비용(TB당 1만 달러)의 감소폭은 그렇게 크지 않다. 이 수치를 합산하면 연간 비용은 64만 4,827달러가 되며 이는 여전히 하둡 분산형 시스템보다 1.8배나 많은 금액이다.  

물론 위에서 말한 것들은 운용비용일 뿐이며 마이그레이션 비용이나 외부 업체를 이용할 경우 계속되는 하둡 지원에 대한 비용 등은 고려하지 않았다. 그러나 둘 사이의 비용차이가 워낙 크기 때문에 하둡 관리에 어느 정도의 할증료를 더 지불한다 하더라도 여전히 기업들은 장기적으로 비용을 절약할 커다란 기회로 삼을 수 있을 것이다.

다음 편에서 다룰 내용들
더 저렴한 하드웨어 비용과 데이터에서 최대한 많은 것들을 얻어내고자 하는 모든 규모의 기업들에게 제공될 강력한 비즈니스 이점들 등 하둡의 장점들이 대기업과 중소기업 영역에서 아주 많은 관심을 모으고 있다.

‘하둡으로 가는 길 | 제3부’에서는 기존의 RDBMS에서 하둡으로 이전할 때의 비용과 관련 기술들을 살펴보며 기업들이 현재 어떻게 하둡을 시험하고 있는지를 알아보고 하둡 데이터를 다른 어떤 RDBMS보다 훨씬 빠르고 저렴하게 분석하는데 사용되는 툴들을 알아볼 것이다.

하둡을 이용하지 않아야 하는 경우는?
머시는 하둡 배치에 따른 잠재성에 대해 매우 열광적이지만 기업에서 하둡으로의 이동을 고려할 때 반드시 유념해야 할 몇 가지 제약 사항들이 있다.

우선 기업이 데이터에서 초 단위 이하(sub-second)로 상호적으로 보고하고 있거나 혹은 데이터를 다단계로 복잡한 트랙젝션에서 이용하고 있다면, 하둡이 이러한 영역들에 특히 강하지 않기 때문에 RDBMS를 그대로 사용하는 편이 좋다. 또한 데이터가 삽입과 삭제를 통해 갱신되고 업데이트되는 경우에도 역시 하둡을 사용하지 않는 편이 좋다.

*Brian Proffitt는 베테랑 리눅스 및 오픈소스 저널리스트이자 애널리스트로 클라우드, 가상화 및 소비자 IT에대한 다년간의 경력을 가지고 있다. ciokr@idg.co.kr