2011.10.13

‘미 국회도서관, 아마존, 마쯔다’가 전하는 빅 데이터 스토리지 팁

John Brandon | Computerworld

데이터센터의 스토리지 시스템이 제대로 동작하지 않는가? 방대한 데이터와 씨름하는 기업들의 경우를 살펴보자. 데이터베이스에 4,500억 개의 객체가 존재하고 있다거나 매주 40 테라바이트의 데이터를 추가해야 한다는 것을 상상해보라.
 
대규모 데이터와 관련한 어려움으로는 대용량 파일 저장, 장기 아카이브 생성, 그리고 물론 데이터 접근성 확보 등이 있다. 데이터 관리는 IT의 오랜 주요 임무 중 하나였다. 그러나 빅 데이터 동향을 분석하는 윈터콥 컨설팅 서비스(WinterCorp Consulting Services)의 애널리스트 리차드 윈터는 "최근 나타나고 있는 데이터 관리에 대한 열광으로 인해 관련 시장이 완전히 새로운 수준으로 활성화되고 있다"라고 말했다.

기성업체와 신생업체들이 신제품을 정기적으로 쏟아내고 있다. 윈터에 따르면 하둡(Hadoop), 맵리듀스(MapReduce), NoSQL, 또는 수 십 종의 다른 데이터웨어하우징 제품 등의 등장으로 인해, 파일 시스템과 새로운 아키텍처 관련 시장은 그야말로 붐을 이루고 있다.
 
빅 데이터의 경우 관리가 어렵다는 속성을 가지고 있다. 국회 도서관, 아마존, 마쯔다(Mazda)는 수 십억 개의 객체와 페타바이트 규모의 스토리지 미디어 처리, 빠른 데이터 획득을 위한 데이터 태깅, 그리고 오류 수정을 위한 혁신적인 방식을 필요로 했던 조직이다.

1. 국회 도서관
국회 도서관은 매년 2.5 페타바이트의 데이터를 처리하고 있고, 그것을 주당 환산하면 약 40TB다. 국회 도서관의 최고 엔터프라이즈 시스템 엔지니어 토마스 유켈은 그러한 데이터 부하가 4배 더 증가할 것으로 전망했다. 역사가들을 위한 데이터 서비스 제공과 자체 포맷으로 정보를 저장하기로 한 국회 도서관의 결정이 큰 이유다.

국회 도서관은 2곳의 데이터 센터에 있는 600개의 서버에 장착된 15,000에서 18,000개의 디스크(spinning disk)에 정보를 저장하고 있다. 90% 이상의 데이터 또는 3PB 이상의 데이터는 광섬유 접속 SAN에 저장되고 나머지는 NAS(network-attached storage) 드라이브에 저장된다.

컨설팅 업체 스토리지IO(StorageIO)의 애널리스트 그레그 스컬츠에 따르면, 국회 도서관의 경우 저장되는 정보가 메타데이터 또는 저장되는 데이터에 대한 데이터라는 점에서 "흥미로운 모델"을 사용하고 있다.

수많은 기업들이 메타데이터를 사용하고 있지만, 국회 도서관은 데이터 스토어의 크기가 방대하다는 점과 컬렉션(오래된 음성 기록, 비디오, 사진, 그리고 다른 미디어 등)의 모든 것을 태깅한다는 독특한 특성을 가지고 있다고 스컬츠는 설명했다.

거의 접속이 이루어지지 않는 실제 데이터의 경우 디스크에는 썸네일 또는 저해상도 사본만을 저장하고 전체 데이터는 테이프를 사용하여 오프라인으로 보관하는 것이다.
 
국회 도서관이 현재 가지고 있는 데이터베이스당  객체의 수는 약 5억 개이지만, 유켈은 그러한 수치가 최대 50억 개로 증가할 것으로 예상했다. 국회 도서관의 엔터프라이즈 시스템 팀은 이에 대비해 국회 도서관의 네임스페이스 시스템을 재편하기 시작했다. 그는 "우리는 그렇게 많은 객체를 처리할 수 있는 새로운 파일 시스템을 알아보고 있다"고 말했다.

가트너의 스토리지 애널리스트 진 루쓰는 정확한 스케일 업(scaling up)과 스케일 아웃(scaling out)이 중요하다고 말했다. 그렇지 않은 상태에서 데이터 스토어가 10PB를 넘어서게 되면, 대규모 데이터를 백업하고 처리하기 위해 소요되는 시간과 비용이 기하급수적으로 늘어나게 된다는 것이다. 그에 따르면 한 가지 방법은 대부분의 데이터를 처리하는 1차 저장소와 장기 아카이브 스토리지를 위한 2차 저장소로 구분되는 인프라를 구축하는 것이다.  

2. 아마존닷컴(Amazon.com)
대형 e-커머스 업체 아마존닷컴도 데이터 측면에서는 세계 최대 규모다. 고객과 자체 스토리지 요구 처리를 위해 클라우드에 저장되는 객체의 수가 약 4,500억 개에 달한다. 아마존 웹 서비스의 스토리지 서비스 부문 부회장 알리샤 헨리는 미국 내 한 고객에 대한 객체의 양이 약 1,500개에 이를 정도라고 말했다.

또 그녀에 따르면 아마존의 데이터베이스 내에 있는 객체 중에는 그 크기는 최대 5TB 규모에 달하는 것도 있다. 헨리는 2016년에는 단일 객체의 크기가 최대 500TB 크기로 증가할 것으로 예상했다. 그녀는 이러한 대규모 데이터를 처리할 수 있는 비밀에 대해 객체를 청크(chunk) 단위로 나누는 병렬화 프로세스라고 말했다.




2011.10.13

‘미 국회도서관, 아마존, 마쯔다’가 전하는 빅 데이터 스토리지 팁

John Brandon | Computerworld

데이터센터의 스토리지 시스템이 제대로 동작하지 않는가? 방대한 데이터와 씨름하는 기업들의 경우를 살펴보자. 데이터베이스에 4,500억 개의 객체가 존재하고 있다거나 매주 40 테라바이트의 데이터를 추가해야 한다는 것을 상상해보라.
 
대규모 데이터와 관련한 어려움으로는 대용량 파일 저장, 장기 아카이브 생성, 그리고 물론 데이터 접근성 확보 등이 있다. 데이터 관리는 IT의 오랜 주요 임무 중 하나였다. 그러나 빅 데이터 동향을 분석하는 윈터콥 컨설팅 서비스(WinterCorp Consulting Services)의 애널리스트 리차드 윈터는 "최근 나타나고 있는 데이터 관리에 대한 열광으로 인해 관련 시장이 완전히 새로운 수준으로 활성화되고 있다"라고 말했다.

기성업체와 신생업체들이 신제품을 정기적으로 쏟아내고 있다. 윈터에 따르면 하둡(Hadoop), 맵리듀스(MapReduce), NoSQL, 또는 수 십 종의 다른 데이터웨어하우징 제품 등의 등장으로 인해, 파일 시스템과 새로운 아키텍처 관련 시장은 그야말로 붐을 이루고 있다.
 
빅 데이터의 경우 관리가 어렵다는 속성을 가지고 있다. 국회 도서관, 아마존, 마쯔다(Mazda)는 수 십억 개의 객체와 페타바이트 규모의 스토리지 미디어 처리, 빠른 데이터 획득을 위한 데이터 태깅, 그리고 오류 수정을 위한 혁신적인 방식을 필요로 했던 조직이다.

1. 국회 도서관
국회 도서관은 매년 2.5 페타바이트의 데이터를 처리하고 있고, 그것을 주당 환산하면 약 40TB다. 국회 도서관의 최고 엔터프라이즈 시스템 엔지니어 토마스 유켈은 그러한 데이터 부하가 4배 더 증가할 것으로 전망했다. 역사가들을 위한 데이터 서비스 제공과 자체 포맷으로 정보를 저장하기로 한 국회 도서관의 결정이 큰 이유다.

국회 도서관은 2곳의 데이터 센터에 있는 600개의 서버에 장착된 15,000에서 18,000개의 디스크(spinning disk)에 정보를 저장하고 있다. 90% 이상의 데이터 또는 3PB 이상의 데이터는 광섬유 접속 SAN에 저장되고 나머지는 NAS(network-attached storage) 드라이브에 저장된다.

컨설팅 업체 스토리지IO(StorageIO)의 애널리스트 그레그 스컬츠에 따르면, 국회 도서관의 경우 저장되는 정보가 메타데이터 또는 저장되는 데이터에 대한 데이터라는 점에서 "흥미로운 모델"을 사용하고 있다.

수많은 기업들이 메타데이터를 사용하고 있지만, 국회 도서관은 데이터 스토어의 크기가 방대하다는 점과 컬렉션(오래된 음성 기록, 비디오, 사진, 그리고 다른 미디어 등)의 모든 것을 태깅한다는 독특한 특성을 가지고 있다고 스컬츠는 설명했다.

거의 접속이 이루어지지 않는 실제 데이터의 경우 디스크에는 썸네일 또는 저해상도 사본만을 저장하고 전체 데이터는 테이프를 사용하여 오프라인으로 보관하는 것이다.
 
국회 도서관이 현재 가지고 있는 데이터베이스당  객체의 수는 약 5억 개이지만, 유켈은 그러한 수치가 최대 50억 개로 증가할 것으로 예상했다. 국회 도서관의 엔터프라이즈 시스템 팀은 이에 대비해 국회 도서관의 네임스페이스 시스템을 재편하기 시작했다. 그는 "우리는 그렇게 많은 객체를 처리할 수 있는 새로운 파일 시스템을 알아보고 있다"고 말했다.

가트너의 스토리지 애널리스트 진 루쓰는 정확한 스케일 업(scaling up)과 스케일 아웃(scaling out)이 중요하다고 말했다. 그렇지 않은 상태에서 데이터 스토어가 10PB를 넘어서게 되면, 대규모 데이터를 백업하고 처리하기 위해 소요되는 시간과 비용이 기하급수적으로 늘어나게 된다는 것이다. 그에 따르면 한 가지 방법은 대부분의 데이터를 처리하는 1차 저장소와 장기 아카이브 스토리지를 위한 2차 저장소로 구분되는 인프라를 구축하는 것이다.  

2. 아마존닷컴(Amazon.com)
대형 e-커머스 업체 아마존닷컴도 데이터 측면에서는 세계 최대 규모다. 고객과 자체 스토리지 요구 처리를 위해 클라우드에 저장되는 객체의 수가 약 4,500억 개에 달한다. 아마존 웹 서비스의 스토리지 서비스 부문 부회장 알리샤 헨리는 미국 내 한 고객에 대한 객체의 양이 약 1,500개에 이를 정도라고 말했다.

또 그녀에 따르면 아마존의 데이터베이스 내에 있는 객체 중에는 그 크기는 최대 5TB 규모에 달하는 것도 있다. 헨리는 2016년에는 단일 객체의 크기가 최대 500TB 크기로 증가할 것으로 예상했다. 그녀는 이러한 대규모 데이터를 처리할 수 있는 비밀에 대해 객체를 청크(chunk) 단위로 나누는 병렬화 프로세스라고 말했다.


X