CIO / How To / 개발자 / 비즈니스|경제 / 빅데이터 | 애널리틱스 / 스토리지 / 애플리케이션
LHC 실험의 대용량 데이터 스토리지 기술 – LCG SE, SRM, CASTOR, dCache, DPM, StoRM
이제 LHC 컴퓨팅 그리드에서 사용되는 분산 스토리지 시스템 기술이 어떤 것들이 있는지, 그리고 이 분산 스토리지 시스템 기술들이 어떻게 다양한 그리드 사이트의 저장 장치 자원을 통합하는지 같이 살펴보도록 하자.
LHC 컴퓨팅 그리드 구축 당시에 가장 확장성 있는 스토리지 기술은 SAN 스토리지였지만, SAN 스토리지 장비는 저장 용량당 단가가 가장 비쌌고 구축 비용이 많이 들었기 때문에 분석용 데이터를 위한 모든 스토리지를 SAN으로 구축할 수 없었다. LHC 컴퓨팅 그리드에 참여하는 기관별로 컴퓨팅 및 스토리지 자원에 투자할 수 있는 예산이 달랐기 때문에, 예산이 넉넉하지 않은 공동 연구 기관의 데이터센터에서 SAN으로 그리드 스토리지 시스템을 구성하는 것은 어려웠다.
LHC 컴퓨팅 그리드 구축 당시에는 요즘 기업들이 저지연(low latency) 데이터 I/O를 위해 도입하는 SSD나 플래시 스토리지 시스템이 없었기 때문에, 가장 빠른 데이터 I/O 성능을 보이는 스토리지 제품은 하드 디스크 어레이 스토리지였다. 당시 EMC 및 넷앱 등의 기업은 고성능 디스크 어레이 스토리지 제품을 내놓고 있었다. 예산과 컴퓨팅 시스템의 투자에 여유가 있는 데이터센터에서는 IBM의 HPSS(High-Performance Storage System)와 같은 고가의 스토리지 시스템을 사용하기도 하였다.
디스크 어레이나 서버의 로컬 디스크들을 묶어서 대용량 스토리지를 만들기 위해 당시에는 병렬 클러스터 컴퓨팅을 지원하기 위한 병렬 파일 시스템이 많이 쓰였다. 1994년부터 클러스터 병렬 컴퓨팅 기술이 발전하기 시작하면서 네트워크로 연결된 컴퓨팅 노드에 있는 로컬 스토리지들을 묶어 하나의 대용량 스토리지 시스템으로 만들고, 여러 노드에서 동시에 파일에 접근해도 연산 성능이 보장되도록 하는 병렬 파일 시스템 소프트웨어 기술이 발전하고 있었다. 당시 가장 확장성과 성능이 좋았던 IBM의 상용 병렬 파일 시스템인 GPFS(현재의 스펙트럼 스케일)와 오픈소스로 공개되었던 루스트르(Lustre)가 클러스터 병렬 컴퓨터에서의 병렬 파일 시스템으로 많이 쓰였다.
LHC 실험과 같이 영상 빅데이터가 많은 고에너지 물리학, 천문학, 지구과학 등의 데이터 집중(data-intensive) 과학 실험에서는, 일반 고성능 컴퓨팅과는 다른 저장 장치 요구 사항을 가지고 있었다. 이 때문에 GPFS와 같은 상용 병렬 파일 시스템과 Lustre와 같은 오픈소스 병렬 파일 시스템으로 해결할 수 없는, 데이터 보관의 신뢰성과 확장성(scalability) 요구 사항을 만족하기 위해 고에너지 물리학 연구소 및 국립 데이터센터들을 중심으로 확장성 있는 대용량 분산 파일 시스템 소프트웨어 기술이 개발되었다.
미국 로렌스 버클리 국립 연구소의 과학 데이터 관리 연구그룹(Scientific Data Management Research Group)에서는 확장성 있는(scalable) 데이터 관리를 위한 버클리 스토리지 매니저(Berkeley Storage Manager; BeStMan)를 개발하였다[3]. 로렌스 버클리 연구소의 과학 데이터 관리 연구 그룹은 아래에 설명할 그리드 저장 장치 인터페이스 표준인 저장 자원 관리 인터페이스(Storage Resource Manager; SRM) 표준 제정을 그리드 컴퓨팅 커뮤니티 내에서 주도하기도 했다.
미국의 페르미 국립 연구소(Fermilab), 독일의 국립 전자 싱크로트론 연구소(DESY)와 노르웨이 데이터 그리드 서비스(Nordic DataGrid Facility; NDGF)에서는 단일화된 네임공간(namespace)에서 이종(heterogeneous) 저장 장치 자원에서의 디스크 자원을 통합하고 관리할 수 있도록 하기 위한 분산 저장 장치 관리 시스템인 dCache를 공동 연구개발하였다[5].
dCache는 POSIX API를 비롯한 FTP, Kerberos GSSFTP, GSIFTP, HTTP, dCap, 그리고xRootD등의 다양한 프로토콜을 지원하여, 디스크 어레이 스토리지를 자주 쓰이는 핫 데이터(hot data; 데이터 I/O 빈도가 높은 파일)를 위한 저장 장치 자원으로, OSM, Enstore[6], TSM, HPSS[7], DMF, Castor[4]와 같은 테이프 저장 장치 시스템을 자주 쓰이지 않는 콜드 데이터(cold data; 데이터 I/O 빈도가 낮은 파일들을 말함)의 저장 장치로 하는 계층화된 저장 장치 시스템 구성이 가능하도록 만들어졌다. 이 때문에 LHC 컴퓨팅 그리드에서 다양한 저장 장치 시스템 통합을 위해 새로운 서비스나 데이터 접근 프로토콜을 추가하기에 알맞은 확장성 있는 아키텍처를 가지고 있다.
dCache는 또한 데이터 집중 과학(data-intensive science)에서 자주 요구되는 데이터 저장의 신뢰성(reliability)과 고가용성(high-availability)을 보장하기 위해 부하 분산(load balancing)과 데이터 복제(replication)를 지원한다. 하둡의 분산 파일 시스템인 HDFS가 데이터 복제 기능과 네임 노드 이중화를 통해 신뢰성과 고가용성을 지원하기 시작한 것을 생각해보면 dCache의 데이터 신뢰성, 고가용성 보장 기술은 하둡보다 앞선 것이다.
LHC 컴퓨팅 그리드를 기초로 범유럽 그리드 인프라를 만드는 EGEE 프로젝트에서는 Tier-2 데이터센터에서 디스크 저장 장치 자원을 대용량 저장 장치로 손쉽게 통합할 수 있는 DPM(Disk Pool Manager)이라는 분산 저장 장치 관리 시스템을 개발했다. DPM은 그 이름에서도 알 수 있듯이 테이프 저장 장치가 포함된 계층화된 저장 장치 시스템 구성을 지원하지는 않고, 디스크 저장 장치 자원만을 통합할 수 있다.
DPM은 계층화된 네임공간(hierarchical namespace)을 구성할 수 있도록 지원하며, 물리적인 파일 이름과 경로를 DPM에 저장된 파일의 사이트 파일 이름과 경로(Site File Name)와 매핑하여 관리한다. Globus 그리드 미들웨어의 파일 전송 프로토콜인 GSIFTP를 이용해 데이터를 전송하며, RFIO를 이용해 POSIX 파일 시스템 규약에 준하는 파일 접근과 조작이 가능하다. Xrootd 프로토콜을 지원하여 ROOT에서 DPM 기반의 분산 저장 장치 자원을 손쉽게 통합하여 데이터에 접근할 수 있도록 한다.
StoRM(Storage Resource Manager)은 이탈리아 국립 핵물리 연구소(Istituto Nazionale di Fisica Nucleare(Italian Institute for Nuclear Physics); INFN)와 UN 산하 UNESCO와 IAEA의 후원을 받는 압두스 살람 국제 이론 물리 연구소(The Abdus Salam International Centre for Theoretical Physics; ICTP)에서 경제학과 재무 연구를 위한 EGRID 프로젝트를 지원하기 위해 만든 SRM 2.2 표준을 구현한 분산 저장 장치 관리 소프트웨어이다. Storm은 IBM의 GPFS와 루스트르(Lustre)와 같은 최신 병렬 파일 시스템 기술을 지원할 수 있도록 개발되었다.
Surfshark
VPN (가상 사설 네트워크, Virtual Private Network)은 인터넷 사용자에게 개인 정보 보호와 보안을 제공하는 중요한 도구로 널리 인정받고 있다. VPN은 공공 와이파이 환경에서도 데이터를 안전하게 전송할 수 있고, 개인 정보를 보호하는 데 도움을 준다. VPN 서비스의 수요가 증가하는 것도 같은 이유에서다. 동시에 유료와 무료 중 어떤 VPN을 선택해야 할지 많은 관심을 가지고 살펴보는 사용자가 많다. 가장 먼저 사용자의 관심을 끄는 것은 별도의 예산 부담이 없는 무료 VPN이지만, 그만큼의 한계도 있다. 무료 VPN, 정말 괜찮을까? 무료 VPN 서비스는 편리하고 경제적 부담도 없지만 고려할 점이 아예 없는 것은 아니다. 보안 우려 대부분의 무료 VPN 서비스는 유료 서비스에 비해 보안 수준이 낮을 수 있다. 일부 무료 VPN은 사용자 데이터를 수집해 광고주나 서드파티 업체에 판매하는 경우도 있다. 이러한 상황에서 개인 정보가 유출될 우려가 있다. 속도와 대역폭 제한 무료 VPN 서비스는 종종 속도와 대역폭에 제한을 생긴다. 따라서 사용자는 느린 인터넷 속도를 경험할 수 있으며, 높은 대역폭이 필요한 작업을 수행하는 데 제약을 받을 수 있다. 서비스 제한 무료 VPN 서비스는 종종 서버 위치가 적거나 특정 서비스 또는 웹사이트에 액세스하지 못하는 경우가 생긴다. 또한 사용자 수가 늘어나 서버 부하가 증가하면 서비스의 안정성이 저하될 수 있다. 광고 및 추적 일부 무료 VPN은 광고를 삽입하거나 사용자의 온라인 활동을 추적하여 광고주에게 판매할 수 있다. 이 경우 사용자가 광고를 보아야 하거나 개인 정보를 노출해야 할 수도 있다. 제한된 기능 무료 VPN은 유료 버전에 비해 기능이 제한될 수 있다. 예를 들어, 특정 프로토콜이나 고급 보안 기능을 지원하지 않는 경우가 그렇다. 유료 VPN의 필요성 최근 유행하는 로맨스 스캠은 인터넷 사기의 일종으로, 온라인 데이트나 소셜 미디어를 통해 가짜 프로필을 만들어 상대를 속이는 행위다. 이러한 상황에서 VPN은 사용자가 안전한 연결을 유지하고 사기 행위를 방지하는 데 도움이 된다. VPN을 통해 사용자는 상대방의 신원을 확인하고 의심스러운 활동을 감지할 수 있다. 그 외에도 유료 VPN만의 강점을 적극 이용해야 하는 이유는 다음 3가지로 요약할 수 있다. 보안 강화 해외 여행객이 증가함에 따라 공공 와이파이를 사용하는 경우가 늘어나고 있다. 그러나 공공 와이파이는 보안이 취약해 개인 정보를 노출할 위험이 있다. 따라서 VPN을 사용하여 데이터를 암호화하고 개인 정보를 보호하는 것이 중요하다. 서프샤크 VPN은 사용자의 개인 정보를 안전하게 유지하고 해킹을 방지하는 데 유용하다. 개인 정보 보호 인터넷 사용자의 검색 기록과 콘텐츠 소비 패턴은 플랫폼에 의해 추적될 수 있다. VPN을 사용하면 사용자의 IP 주소와 로그를 숨길 수 있으며, 개인 정보를 보호할 수 있다. 또한 VPN은 사용자의 위치를 숨기고 인터넷 활동을 익명으로 유지하는 데 도움이 된다. 지역 제한 해제 해외 여행 중에도 한국에서 송금이 필요한 경우가 생길 수 있다. 그러나 IP가 해외 주소이므로 은행 앱에 접근하는 것이 제한될 수 있다. VPN을 사용하면 지역 제한을 해제해 해외에서도 한국 인터넷 서비스를 이용할 수 있다. 따라서 해외에서도 안전하고 편리하게 인터넷을 이용할 수 있다. 빠르고 안전한 유료 VPN, 서프샤크 VPN 뛰어난 보안 서프샤크 VPN은 강력한 암호화 기술을 사용하여 사용자의 인터넷 연결을 안전하게 보호한다. 이는 사용자의 개인 정보와 데이터를 보호하고 외부 공격으로부터 사용자를 보호하는 데 도움이 된다. 다양한 서버 위치 서프샤크 VPN은 전 세계 곳곳에 여러 서버가 위치하고 있어, 사용자가 지역 제한된 콘텐츠에 액세스할 수 있다. 해외에서도 로컬 콘텐츠에 손쉽게 접근할 수 있음은 물론이다. 속도와 대역폭 서프샤크 VPN은 빠른 속도와 무제한 대역폭을 제공하여 사용자가 원활한 인터넷 경험을 누릴 수 있도록 지원한다. 온라인 게임, 스트리밍, 다운로드 등 대역폭이 필요한 활동에 이상적이다. 다양한 플랫폼 지원 서프샤크 VPN은 다양한 플랫폼 및 디바이스에서 사용할 수 있다. 윈도우, 맥OS, iOS, 안드로이드 등 다양한 운영체제 및 디바이스에서 호환되어 사용자가 어디서나 안전한 인터넷을 즐길 수 있다. 디바이스 무제한 연결 서프샤크 VPN은 무제한 연결을 제공하여 사용자가 필요할 때 언제든지 디바이스의 갯수에 상관없이 VPN을 사용할 수 있다.