2016.06.22

빅데이터는 어떻게 백업·복구 '게임의 룰'을 바꾸는가

Katherine Noyes | IDG News Service
"소프트웨어 스택의 한 부분을 바꾸면 다른 것도 바꾸어야 할 가능성이 크다". IT 세계에서는 이미 잘 알려진 상식이다. 그리고 그 대표적인 예가 바로 빅데이터다.


이미지 출처: 구글

빅데이터는 데이터베이스 시장을 흔들어 새로운 수준의 '스케일 아웃(Scale Out)' 기술을 현실화했다. 데이터를 하나의 거대한 서버에 몰아넣는 대신 여러 범용 서버에 분산 저장하는 것으로, 하둡(Hadoop), 몽고DB(MongoDB), 카산드라(Cassandra) 같은 제품이 대표적이다. 이런 방식의 가장 큰 장점은 유연성이다. 더 많은 데이터를 저장하기 위해 시스템을 증설할 때, 거액을 들여 더 거대한 장비를 구매하는 '스케일 업(Scale Up)' 대신 저렴한 기기 1~2대를 추가해 붙이면(Scale Out) 된다.

이것은 매우 훌륭한 방식이지만, 대신 백업과 복구라는 새로운 숙제가 우리 앞에 나타났다. 시장조사업체 가트너(Gartner)의 부사장 데이브 러셀은 "전통적인 백업 제품은 2가지 어려움에 직면해 있다. 엄청난 용량의 문제, 그리고 스케일 아웃 환경에서 백업하는 문제다"라고 말했다. 수평적으로 확장할 수 있는 일부 데이터베이스는 가용성과 복구 기능을 자체적으로 지원한다. 그러나 기업에서 사용할 만큼 완성도가 높은 것은 아니라고 러셀은 지적했다.

이런 가운데 시스템 장애가 발생하면 대기업도 곧바로 보안 취약점에 노출될 수 있다. 따라서 이런 수요를 겨냥해 새로운 수준의 데이터 보호 제품이 등장하고 있고, 데이토스 IO(Datos IO)의 '리커버X(RecoverX)'가 그중 하나다. 데이토스 IO의 공동 설립자 겸 CEO인 태런 타쿠르는 "오라클이나 마이SQL 같은 전통적인 데이터베이스는 스케일 업 방식으로 확장해야 하고 '영구적인 로그(durable log)'에 대한 개념이 있기 마련이다"라고 말했다.

이런 시나리오에서 시스템에 문제가 발생하면 로그 사본이 백업에 포함된다. 그런데 여러 장비에 데이터가 분산된 오늘날의 차세대 데이터베이스 환경에서 이 작업이 그리 간단하지 않다. 타쿠르는 "이런 환경에서는 마스터(master)가 없으므로 각 노드가 자체적으로 동작하고 영구적인 로그도 없다. 다양한 노드가 다양한 권한을 얻을 수 있어, 모든 노드는 운영에 대한 관점이 서로 다르다"라고 말했다.

이는 소위 빅데이터의 '3V(Volume, Velocity, Variety)'라고 부르는 것을 수용하기 위한 기술적인 타협이다. 즉 오늘날의 분산형 데이터베이스는 그 어느 때보다도 두려운 속도로 우리에게 날아드는 엄청난 용량의 데이터를 저장하면서 동시에 확장성을 제공하기 위해 기존 전통적인 관계형 데이터베이스가 지켜왔던 'ACID' 특성을 버리고, 대신에 'BASE' 원칙을 수용했다.

---------------------------------------------------------------
데이터센터 인기기사
-> 데이터센터를 안전하게! 물리적 보안 구축법
-> 규모로 승부하는 데이터센터들
-> ‘인프라도 스타급!’ 헐리우드의 엘리트 데이터센터들
-> '동굴, 벙커, 사막···' 쿨하고 쿨한 데이터센터 9곳
-> 데이터센터 위한 필수 장비 10종
-> 구글이 말하는 5가지 데이터센터 에너지 절약법
-> IT 전문가들이 선정한 필수 데이터센터 유틸리티 7선
-> 데이터센터 효율성 개선을 위한 6가지 팁테크
-> 컨버지드 인프라, 데이터센터의 미래인가?
-> ‘데이터센터 비용 절감’ 페이스북의 오픈소스 디자인 활용법
-> 8가지 획기적인 데이터센터 전력 비용 절감 방안
---------------------------------------------------------------

이는 빅데이터 이전과 이후의 데이터베이스를 구별하는 매우 중요한 특성이다. 현재의 분산 컴퓨팅에서 사용하는 '궁극적 일관성(eventual consistency)' 대신에 데이터베이스 전반에 걸쳐 ACID의 C에 해당하는 일관성(Consistency)을 지원해야 한다. 머지않아 데이터베이스의 모든 노드가 이런 특성을 지원하겠지만, 시간이 더 필요한 상황이다. 타쿠르는 "현시점에서는 확장성이 필요하다면 일관성을 포기해야 한다. 둘 다 가질 수는 없다"고 말했다.

이런 한계 때문에 데이터 복구를 위해 신뢰할 수 있는 스냅샷을 얻기가 어렵다. 451 리서치(451 Research)의 조사 부사장 사이먼 로빈슨은 "특정 시점에서 어떤 데이터가 분산형 데이터베이스의 어디로 이동했는지 추적하기 어렵다. 일부 분산 데이터베이스가 지원하는 '데이터 복제' 같은 복원 기능도 데이터가 손상되면 제 기능을 하지 못한다. 단지 손상된 데이터를 복제할 뿐이다"라고 말했다.

이달 초 데이토스 IO는 업체가 '확장형 버저닝(Versioning)', '의미론적 중복 제거'라고 부르는 기능을 지원하는 '리커버X'를 출시했다. 공간 효율적이며 네이티브(Native) 형식으로 사용 가능한 클러스터가 일관적인 백업을 지원한다고 업체 측은 설명했다.

최근까지 캐피탈원 오토 파이넨스(CapitalOne Auto Finance)의 CTO 겸 엔지니어링 부사장이었던 소빅 다스는 백업의 중요성을 강조했다. 현재는 이 회사의 의료 부문 스타트업인 그랜드 라운즈(Grand Rounds)의 엔지니어링 수석 부사장을 맡은 그는 "캐피탈원은 수년 동안 전통적인 데이터베이스를 사용하다가 카산드라 비롯한 새로운 분산형 기술을 도입했다"고 말했다.

이를 위해서는 새로운 백업, 복구 전략이 필요했다. 그는 "백업 소프트웨어 대부분은 일반적으로 백업하는 특정 시스템에 맞춰져 있어 새로운 분산형 데이터베이스에 오래된 백업 제품을 사용하면 문제가 발생할 수 있다. 소프트웨어가 새로운 데이터 저장본을 백업하는 방법을 몰라 완전히 실패하거나 최적화되지 못한 방식으로 동작할 수 있다"고 말했다. 결국, 업체는 다른 백업 솔루션이 필요했고 데이토스 IO뿐만이 아니라 또 다른 기업인 탈레나(Talena) 제품도 검토했다.

한편 전통적인 백업 업체도 기존 기술을 점진적으로 빅데이터에 맞춰 조정하고 있다. 그러나 쉽지 않은 작업이고 오히려 신생 업체들에 기회이기도 하다. 로빈슨은 "일반적으로 기존 백업 업체가 새로운 기술을 지원하려면 상당한 시간이 소요된다. 지난 10년을 되돌아봐도 처음에는 VM웨어 가상 머신 백업이 정말 어려웠다. 이런 틈새에 빔(Veeam) 같은 기업이 치고 들어와 기존의 기업으로부터 VM 백업 시장을 빼앗았다"라고 말했다. ciokr@idg.co.kr



2016.06.22

빅데이터는 어떻게 백업·복구 '게임의 룰'을 바꾸는가

Katherine Noyes | IDG News Service
"소프트웨어 스택의 한 부분을 바꾸면 다른 것도 바꾸어야 할 가능성이 크다". IT 세계에서는 이미 잘 알려진 상식이다. 그리고 그 대표적인 예가 바로 빅데이터다.


이미지 출처: 구글

빅데이터는 데이터베이스 시장을 흔들어 새로운 수준의 '스케일 아웃(Scale Out)' 기술을 현실화했다. 데이터를 하나의 거대한 서버에 몰아넣는 대신 여러 범용 서버에 분산 저장하는 것으로, 하둡(Hadoop), 몽고DB(MongoDB), 카산드라(Cassandra) 같은 제품이 대표적이다. 이런 방식의 가장 큰 장점은 유연성이다. 더 많은 데이터를 저장하기 위해 시스템을 증설할 때, 거액을 들여 더 거대한 장비를 구매하는 '스케일 업(Scale Up)' 대신 저렴한 기기 1~2대를 추가해 붙이면(Scale Out) 된다.

이것은 매우 훌륭한 방식이지만, 대신 백업과 복구라는 새로운 숙제가 우리 앞에 나타났다. 시장조사업체 가트너(Gartner)의 부사장 데이브 러셀은 "전통적인 백업 제품은 2가지 어려움에 직면해 있다. 엄청난 용량의 문제, 그리고 스케일 아웃 환경에서 백업하는 문제다"라고 말했다. 수평적으로 확장할 수 있는 일부 데이터베이스는 가용성과 복구 기능을 자체적으로 지원한다. 그러나 기업에서 사용할 만큼 완성도가 높은 것은 아니라고 러셀은 지적했다.

이런 가운데 시스템 장애가 발생하면 대기업도 곧바로 보안 취약점에 노출될 수 있다. 따라서 이런 수요를 겨냥해 새로운 수준의 데이터 보호 제품이 등장하고 있고, 데이토스 IO(Datos IO)의 '리커버X(RecoverX)'가 그중 하나다. 데이토스 IO의 공동 설립자 겸 CEO인 태런 타쿠르는 "오라클이나 마이SQL 같은 전통적인 데이터베이스는 스케일 업 방식으로 확장해야 하고 '영구적인 로그(durable log)'에 대한 개념이 있기 마련이다"라고 말했다.

이런 시나리오에서 시스템에 문제가 발생하면 로그 사본이 백업에 포함된다. 그런데 여러 장비에 데이터가 분산된 오늘날의 차세대 데이터베이스 환경에서 이 작업이 그리 간단하지 않다. 타쿠르는 "이런 환경에서는 마스터(master)가 없으므로 각 노드가 자체적으로 동작하고 영구적인 로그도 없다. 다양한 노드가 다양한 권한을 얻을 수 있어, 모든 노드는 운영에 대한 관점이 서로 다르다"라고 말했다.

이는 소위 빅데이터의 '3V(Volume, Velocity, Variety)'라고 부르는 것을 수용하기 위한 기술적인 타협이다. 즉 오늘날의 분산형 데이터베이스는 그 어느 때보다도 두려운 속도로 우리에게 날아드는 엄청난 용량의 데이터를 저장하면서 동시에 확장성을 제공하기 위해 기존 전통적인 관계형 데이터베이스가 지켜왔던 'ACID' 특성을 버리고, 대신에 'BASE' 원칙을 수용했다.

---------------------------------------------------------------
데이터센터 인기기사
-> 데이터센터를 안전하게! 물리적 보안 구축법
-> 규모로 승부하는 데이터센터들
-> ‘인프라도 스타급!’ 헐리우드의 엘리트 데이터센터들
-> '동굴, 벙커, 사막···' 쿨하고 쿨한 데이터센터 9곳
-> 데이터센터 위한 필수 장비 10종
-> 구글이 말하는 5가지 데이터센터 에너지 절약법
-> IT 전문가들이 선정한 필수 데이터센터 유틸리티 7선
-> 데이터센터 효율성 개선을 위한 6가지 팁테크
-> 컨버지드 인프라, 데이터센터의 미래인가?
-> ‘데이터센터 비용 절감’ 페이스북의 오픈소스 디자인 활용법
-> 8가지 획기적인 데이터센터 전력 비용 절감 방안
---------------------------------------------------------------

이는 빅데이터 이전과 이후의 데이터베이스를 구별하는 매우 중요한 특성이다. 현재의 분산 컴퓨팅에서 사용하는 '궁극적 일관성(eventual consistency)' 대신에 데이터베이스 전반에 걸쳐 ACID의 C에 해당하는 일관성(Consistency)을 지원해야 한다. 머지않아 데이터베이스의 모든 노드가 이런 특성을 지원하겠지만, 시간이 더 필요한 상황이다. 타쿠르는 "현시점에서는 확장성이 필요하다면 일관성을 포기해야 한다. 둘 다 가질 수는 없다"고 말했다.

이런 한계 때문에 데이터 복구를 위해 신뢰할 수 있는 스냅샷을 얻기가 어렵다. 451 리서치(451 Research)의 조사 부사장 사이먼 로빈슨은 "특정 시점에서 어떤 데이터가 분산형 데이터베이스의 어디로 이동했는지 추적하기 어렵다. 일부 분산 데이터베이스가 지원하는 '데이터 복제' 같은 복원 기능도 데이터가 손상되면 제 기능을 하지 못한다. 단지 손상된 데이터를 복제할 뿐이다"라고 말했다.

이달 초 데이토스 IO는 업체가 '확장형 버저닝(Versioning)', '의미론적 중복 제거'라고 부르는 기능을 지원하는 '리커버X'를 출시했다. 공간 효율적이며 네이티브(Native) 형식으로 사용 가능한 클러스터가 일관적인 백업을 지원한다고 업체 측은 설명했다.

최근까지 캐피탈원 오토 파이넨스(CapitalOne Auto Finance)의 CTO 겸 엔지니어링 부사장이었던 소빅 다스는 백업의 중요성을 강조했다. 현재는 이 회사의 의료 부문 스타트업인 그랜드 라운즈(Grand Rounds)의 엔지니어링 수석 부사장을 맡은 그는 "캐피탈원은 수년 동안 전통적인 데이터베이스를 사용하다가 카산드라 비롯한 새로운 분산형 기술을 도입했다"고 말했다.

이를 위해서는 새로운 백업, 복구 전략이 필요했다. 그는 "백업 소프트웨어 대부분은 일반적으로 백업하는 특정 시스템에 맞춰져 있어 새로운 분산형 데이터베이스에 오래된 백업 제품을 사용하면 문제가 발생할 수 있다. 소프트웨어가 새로운 데이터 저장본을 백업하는 방법을 몰라 완전히 실패하거나 최적화되지 못한 방식으로 동작할 수 있다"고 말했다. 결국, 업체는 다른 백업 솔루션이 필요했고 데이토스 IO뿐만이 아니라 또 다른 기업인 탈레나(Talena) 제품도 검토했다.

한편 전통적인 백업 업체도 기존 기술을 점진적으로 빅데이터에 맞춰 조정하고 있다. 그러나 쉽지 않은 작업이고 오히려 신생 업체들에 기회이기도 하다. 로빈슨은 "일반적으로 기존 백업 업체가 새로운 기술을 지원하려면 상당한 시간이 소요된다. 지난 10년을 되돌아봐도 처음에는 VM웨어 가상 머신 백업이 정말 어려웠다. 이런 틈새에 빔(Veeam) 같은 기업이 치고 들어와 기존의 기업으로부터 VM 백업 시장을 빼앗았다"라고 말했다. ciokr@idg.co.kr

X