Offcanvas

How To / SNS / 데이터센터 / 비즈니스|경제 / 빅데이터 | 애널리틱스 / 애플리케이션

'1,700억 트윗 저장·인덱싱' 미 의회 도서관의 도전

2013.01.10 Brandon Butler  |  Network World


그렇다면 도서관은 이 문제를 어떻게 해결해야 할까? 빅 데이터 전문가들은 몇 가지 해결 방안이 있다고 설명한다.

심플한 초 확장형 키 밸류 스토어(key-value store)를 갖춘 오픈소스 데이터베이스 툴 라이악(Riak)의 제작사인 바쇼(Basho)의 커뮤니티 및 개발자 사업 본부 디렉터 마크 필립스는 데이터 저장 툴과 분류 툴, 그리고 쿼리 처리 툴을 분류하여 구성하는 것이 도서관에 적합할 것이라 제안했다. 그에 따르면 빅 데이터 관리 툴 시장은 그 용도와 비용에 따라 다양한 옵션을 갖춘 탄탄한 시장으로 성장했다.

또한 의회 도서관 관계자들에겐 직접 시스템을 구축해 관리하는 방법을 택할 수도 있을 것이다.

이를 오픈소스 기반으로 진행하려 한다면, 고 입/출력 판독/기록에 특화된 그린플럼 데이터베이스(Greenplum database)에서 하둡 클러스터(Hadoop cluster)까지의 다양한 개발 툴들이 선택권에 오를 수 있다.

이들은 오픈소스 검색 툴 아파치 솔라(Apache Solar)와 결합될 수도 있다. 오픈소스는 개발자들에게 무료로 소스 코드(source code)를 취하고 상용 하드웨어에 기반한 시스템 구성을 무료로 진행할 수 있는 기회가 되어 주지만 개발자들에게 많은 백 엔드 작업을 요구하기도 한다. (조금 비싸지만) 독점적 상용 소프트웨어를 고려해본다면 오라클이나 SAP 등의 선택이 가능할 것이다.

도서관이 트위터 프로젝트를 위해 수집한 데이터는 처리 불가능한 규모가 아니다. 필립스는 “트위터 프로젝트는 133TB의 데이터를 수집하고 있으며 그 규모는 지속적으로 증대되고 있다. 분명 막대한 양이다. 그러나 우리 바쇼는 수 페타바이트의 고객 데이터를 관리하고 있다. 우선 매월, 혹은 매 분기 증대되는 데이터베이스 규모를 추적할 수 있다면, 그들은 데이터 저장에 필요한 하드웨어 수용력 역시 예측할 수 있을 것이다. 이 두 정보만 있다면 소프트웨어는 충분히 데이터베이스를 다룰 수 있다”라고 말했다.

클라우드 옵션은 어떨까? 이론적으로라면 도서관은 아마존 웹 서비스(AWS, Amazon Web Services)와 같은 퍼블릭 클라우드를 이용할 수 있다. 실제로 AWS는 이 모든 트윗을 수용할 충분한 하드웨어 수용량을 갖추고 있다.

그러나 바쇼의 엔지니어 세스 토마스는 이것이 장기적인 측면에서 효율적인 선택일지는 의문이라고 지적했다. 그는 데이터를 영원히 보관하는 것이 도서관의 계획이라면 데이터 보관은 현장에 진행하고 클라우드 기반 서비스는 분석 툴 구동에 사용하는 하이브리드 아키텍처를 구축하는 것이 비용적으로 현명한 선택일 것이라고 설명했다. 또 이러한 방식은 쿼리가 검색 실행에 필요한 자산을 조정하거나 최종 시스템이 계층화된 리퀘스트(request)를 다루는 것 역시 가능케 할 것이라는 설명이다.

어떠한 방식으로도 의회 도서관은 트윗 인덱싱 작업을 진행해나갈 것이다. 일반 사용자들로서는 트위터에 상태를 업데이트함에 있어 한 번 더 신경을 쓰게 만들지도 모르지만, 인류의 기록을 위해 힘쓰는 그들의 행보에는 일단 박수를 보낸다. ciokr@idg.co.kr

CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.