분명히 뜬다··· 미래의 대세 기술 ‘NVMe/TCP’ 안내서

HDD에서 SSD로의 전환이 본격화되면서 고성능 PCIe SSD를 지원하기 위해 NVMe 프로토콜이 등장했다. 이후 등장한 프로토콜이 NVMe 오버 패브릭(NVMe over Fabrics ; NVMe-oF)다. 원격지의 초대형 SSD 풀을 효율적으로 지원하여 실질적으로 DAS(Direct Attached Storage)를 대체하는 한편, 클라우드 인프라의 분산형 스토리지 분야의 주류로 자리잡고자 하는 기술이었다.

그리고 최근, NVMe/TCP(NVMe over TCP)가 등장하여 더욱 강력한 NVMe-oF 기술을 제공하면서 높은 성능과 함께 더 낮은 배치 비용과 디자인 복잡성을 약속하고 있다. 본질적으로 NVMe/TCP는 단순하면서도 효율적인 TCP/IP 패브릭(Fabric)을 사용함으로써 데이터센터 전반에 걸쳐 NVMe를 확장할 수 있게 해준다. 

기술 컨설팅 기업 캡제미니 노스 아메리카(Capgemini North America)의 IT 책임자 에릭 킬링거는 “높은 대역폭과 함께 낮은 지연 속도로 통신할 수 있다. 또 전송용 TCP 프로토콜이 통합된 일반적인 스위치형 네트워크를 추가하는 것만으로도 스토리지 어레이들을 물리적으로 분리하도록 지원한다”라고 설명했다. 

그는 이어 “클라우드 하이퍼스케일러(Hyperscaler)들이 이미 이 기술을 도입하여 2~3년된 SSD기술을 대체함으로써 데이터 분석 및 IoT를 위한 더 나은 쿼리(Query) 액세스를 가능하게 하고 있다”라고 말했다.
 

배경 : NVMe 및 NVMe-oF의 등장
NVMe SSD로 구성된 어레이가 등장하면서 스토리지 속도가 크게 향상되었지만 장치들은 여전히 SCSI 기반 호스트 연결을 통해 서버와 통신하고 있다. NVMe-oF 배치는 스위치형 패브릭에서 NVMe 기반 블록 스토리지 장치에 대해 RDMA(Remote Direct Memory Access)를 지원할 수 있다.

IDC의 인프라 시스템 조사 부사장 에릭 버그너는 “SSD에 최적화된 고성능 스토리지 네트워킹 프로토콜이며... 훨씬 낮은 지연 속도, 더 높은 대역폭, 병행성, 훨씬 낮은 효율성을 제공한다”라고 말했다.

NVMe-oF는 FC(Fibre Channel), 이더넷(Ethernet), 인피니밴드(InfiniBand) 등 다양한 네트워크 전송 유형에서 사용될 수 있다. 이더넷 안에는 RoCE(RDMA over Converged Ethernet), iWARP, TCP 등 다양한 전송 옵션이 있다.

단점은 FC, 인피니밴드, RoCE, iWARP 옵션을 선택할 경우 모두 사용자 정의 호스트 버스 어댑터와 드라이버가 필요함에 따라 구현하고 유지관리하기가 어렵고 비용이 높다는 것이다. 버그너는 “그러나 NVMe/TCP는 진정한 산업 표준이며 거의 모든 기업용 서버에 장착된 표준 집중형 이더넷(Converged Ethernet) 어댑터와 호환된다”라고 설명했다. 또한 대부분의 주요 리눅스(Linux) 변종은 현재 표준 배포판에 NVMe/TCP 드라이버를 내장하고 있다고 그는 덧붙였다. 

버그너는 “즉 이미 공개되고 인정받은 표준이기 때문에 장기적으로 NVMe-oF 배치가 두드러진 특징이 될 것이다. 또한 구현 비용이 낮고 표준 리눅스 또는 이더넷 어댑터 외에 업그레이드 요구가 필요 없는 선택지들이 있다”라고 말했다.

한편 RoCE와 iWARP는 각각 RDMA를 지원하지만 FC와 TCP는 그렇지 못하다. RDMA 지원 기능 덕분에 지연 속도가 조금 더 낮으면서 모든 접근방식이 FC와 iSCSI 등 일반적인 SCSI 기반 스토리지 네트워킹 기술을 통해 상당한 성능을 제공할 수 있다. 
 
NVMe/TCP 배치 및 사용
NVMe/TCP를 도입하는 이유는 지연 속도가 낮은 공유 스토리지 솔루션을 구현하기 위해서다. 버그너는 “NVMe에 기반한 전체 플래시 어레이가 있지만 여전히 SCSI 기반 스토리지 네트워크를 통해 연결되어 있는 경우 성능을 제대로 활용하지 못한다. 즉 SSD 리소스를 최대한 효율적으로 활용하지 못하고 있는 것이다. NVMe 기반 전체 플래시 어레이의 성능을 애플리케이션까지 제대로 전달하고 싶다면 NVMe-oF 스토리지 네트워크가 필요하다”라고 말했다.

대부분의 조직에서 전송 기술 선택은 이미 배치되어 있는 인프라 또는 성능 요건에 따라 결정된다. 버그너는 “FC는 이런 높은 성능이 요구될 때 적합한 전송 방식이지만 더 높은 대역폭의 이더넷 네트워크가 출시될 때마다 차이가 좁혀지고 있다. 그 이유는 이더넷이 더 높은 대역폭으로 더 많은... 스토리지 작업 부하를 처리할 수 있기 때문이다. FC와 더욱 잘 호환되는 성능에 매우 민감한 앱이 있지만 시간이 지남에 따라 점차 줄어들 것이다”고 말했다.

기업에 이미 FC 네트워크가 있는 경우 상대적으로 NVMe-oF를 설치하기가 쉽고 많은 조직들이 그렇게 하고 있다. 하지만 대부분의 비즈니스 배치는 이더넷을 선택할 것이며 TCP가 결국 승리할 것이라고 버그너가 말했다.

버그너는 애플리케이션 측면에서 “AI/ML 기반 빅데이터 분석 작업 부하 때문에 NVMe/TCP가 많아질 것이며, 실시간 속성을 가진 것들의 경우에는 더욱 그럴 것이다. (도입이) 적합한 또 다른 곳은 많은 작업 부하를 단일 스토리지 어레이로 통합하고 높은 작업 부하 밀도로 대규모 성능을 제공할 수 있어야 하는 환경이다”라고 말했다.

AI/ML 기반 빅데이터 분석 도입이 증가하고 있지만 이 분야는 아직 상대적으로 초기 단계이다. NVMe/TCP가 견인력을 주로 얻는 분야는 초대형 플래시 기반 스토리지 배치 환경이다. 고대역폭 스위치형 네트워크에 대한 기존의 투자를 통해 대형 저지연 데이터풀에 신속하게 액세스할 수 있어야 하는 경우에 더욱 그렇다.

킬링거는 “하이퍼스케일러가 이 기술의 소비자가 될 수밖에 없으며, 그 이유는 이를 통해 빠른 데이터 액세스가 가능하고 여러 개의 데이터센터 팟(Pod)에 걸쳐 데이터를 분산할 수 있어 일반적인 광섬유 네트워크 구축으로 발생하는 추가적인 비용 없이 파워그리드(Power Grid), 냉각, 국지적인 고가용성 아키텍처의 이점을 제공하기 때문이다”라고 설명했다.

또한 NVMe/TCP를 통해 도입자들은 이미 상품화되고 많은 OEM들이 제공하고 있는 스위치형 네트워킹 기술과 관련한 기존의 투자분을 활용할 수 있다. 킬링거는 “인피니밴드 또는 FC 대비 여러 개의 본딩된 10G 스위치형 이더넷 포트를 연결하는 포트당 비용만으로도 NVMe의 TCP 스택 구현을 활용할 이유가 된다”라고 말했다.

많은 고급 스토리지 도입자들이 이미 FC 스토리지 네트워크에 집중하고 있으며, 이미 RoCE로 업그레이드했거나 업그레이드할 계획이기는 하다. 하지만 향후 수년 안에 상황이 바뀔 가능성이 높다고 버그너는 예상했다.

스토리지 인프라가 점차 SSD로 옮겨가고 고객들이 인프라 효율성을 더욱 중시하면서 NVMe/TCP는 분명 SCSI보다 앞서게 될 것이며 구현 비용이 저렴하고 손쉬울 것이라는 설명이다.

NVMe/TCP 가용성
NVMe와 그 사양은 네트워크, 스토리지, 기타 IT 관련 기업들로 구성된 컨소시엄인 NVM 익스프레스(NVM Express, Inc.)가 소유 및 유지관리하고 있다. 2011년에 공개된 NVMe 사양은 호스트 소프트웨어가 PCIe(PCI Express) 버스를 통해 비휘발성 메모리와 통신하는 방식을 정의하며 현재 모든 폼팩터의 PCIe SSD에 대한 산업 표준이다. NVMe/TCP는 NVM 익스프레스 컨소시엄이 2018년에 재가했다.

현재, NVMe/TCP 지원은 주로 라이트비트 랩스(Lightbits Labs) 및 멜라녹스 테크놀로지스(Mellanox Technologies, 현재 엔비디아가 소유)뿐 아니라 엑셀레로(Excelero), 파빌리온 데이터(Pavilion Data), 인피니댓(Infinidat) 등 일련의 스토리지 스타트업들이 제공하고 있다. SSD 칩 제조사 키옥시아(Kioxia)(전 도시바 계열사)도 NVMe/TCP를 지원한다. 

NVMe/TCP 가용성은 향후 수년 동안 빠르게 성장할 것으로 예상된다. 버그너는 “대부분의 주요 기업용 스토리지 제공업체들이 아직 이것을 도입하지 않았지만 향후 12~18개월 안에 그렇게 할 것이다”라고 예상했다.

현재 대규모 NVMe/TCP를 대규모로 도입하는 데 따르는 장애물은 장기적인 성공을 가져올 이유이기도 하다. 킬링거는 “대부분의 IT 조직들이 최소한 퍼블릭 클라우드 서비스를 실험하고 있으며, 기업 중 90% 이상이 1개 이상의 퍼블릭 클라우드를 이용하고 있는 것으로 예상된다”라고 말했다. 

한편, IT 리프레시 비율은 감소하는 추세이고 많은 조직들이 노후화되는 스토리지 인프라를 대체할 충분한 예산을 확보하지 못하고 있다. 그는 “하지만 일부 기업들은 퍼블릭 클라우드 제공자를 통해 기업 IT 서비스를 대체하려 하고 있으며 여기에서 NVMe/TCP가 성장하여 기업의 IT 구매력보다 몇 배나 더 크게 성장할 것이다”라고 밝혔다. 

버그너는 NVMe/TCP의 미래가 밝다고 생각한다. 그는 “하지만 2022년이나 2023년 말까지는 [도입률이] 증가하지 않을 것이다”라고 전망했다.

또한 킬링거는 NVMe/TCP가 결국 중심 기술이 될 것으로 낙관하고 있다. 그는 “NVMe/TCP가 성장하지 못할 이유가 없다고 생각하며, 심지어 앞으로 SSD 배치가 가속화될 것이다”라고 말했다.

킬링거는 곧 SSD 스토리지 OEM들이 대규모 마케팅을 벌이고 NVMe/TCP에서 자사 제품의 성능을 뽐낼 것으로 예상하고 있다. 그는 “기업의 IT 부사장은 조달 결정만 바꾸는 것으로 충분할 것이다”라고 말했다.
 
ciokr@idg.co.kr