'데이터센터로 밀려드는 새 물결' 수랭식 냉각 트렌드 따라잡기

AI 및 기타 전력 집약적인 워크로드 채택이 증가하고 에너지 소비를 줄어야 한다는 규제 압박으로 인해 데이터센터에서 수랭 시스템으로의 전환이 느리지만 꾸준히 이뤄지고 있다. 
 

IDC 애널리스트 션 그레이엄에 따르면, 오늘날 데이터센터의 22%가 수랭 시스템을 사용하고 있다. 향후 10년간의 성장이 예상된다. 글로벌 마켓 인사이트에 따르면, 전 세계 데이터센터 수랭 시스템 시장은 2022년에 20억 달러로 추정되며, 2023년부터 2032년까지 연평균 15%의 성장률을 보일 것으로 예상된다.

수랭 시스템에 대한 관심이 급증하는 이유는 다음과 같다. 
 

• 데이터센터는 에너지를 많이 소비한다. 국제에너지기구(International Energy Agency, IEA)에 따르면, 미국의 데이터센터 전력 소비량은 2022년 약 200TWh(테라와트시)로 미국 전체 전력 수요의 약 4%다. 2026년에는 전체 전력 수요의 6%를 차지하는 약 260TWh로 증가할 것으로 예상된다.
• 데이터센터의 에너지 사용량 상당 부분은 냉방이 차지한다. IEA에 따르면 냉각 요구 사항이 데이터센터 전력 수요의 40%를 차지한다.
• 에너지 효율에 대한 관심이 증가하고 있다. 업타임 인스티튜트(Uptime Institute)는 데이터센터 소유자와 운영자의 33%가 시설 장비의 에너지 효율 개선에 대해 매우 우려하고 있으며, 이는 다른 어떤 문제보다 높은 수치라고 밝혔다. 지속 가능성이 점점 더 중요한 관심사가 되면서 데이터센터 인프라 지속 가능성 프로그램을 구현하는 기업의 비율이 2022년 약 5%에서 2027년에는 75%로 증가할 것으로 가트너는 예측했다.
• 서버 랙 밀도가 증가하고 있다. 맥킨지에 따르면, 일반적인 서버 랙의 밀도는 4~10kW이지만, 고성능 환경의 밀도는 20~30kW까지 높아질 수 있다. 공간이 부족한 엣지 컴퓨팅에서도 밀도를 고려해야 한다. 

공랭식 냉각의 한계

공랭식 냉각은 랙당 20kW가 넘으면 한계에 도달하기 시작한다. 일반적인 공랭 시스템은 15~20kW에서 최고치를 기록하고, 밀폐형 랙 기반 냉각은 최대 30kW까지 올라간다. 하지만 IDC의 그레이엄에 따르면, 수랭 시스템은 20kW 이상의 랙 밀도를 지원한다.

업타임 인스티튜트는 2022년 기준 전체 데이터센터의 약 25%가 20kW 이상의 랙을 보유하고 있으며, 5%는 50kW 이상의 밀도를 가진 랙을 보유하고 있다고 집계했다. 데이터센터의 규모가 클수록 랙 전력이 증가할 가능성이 크다.

SSI 얼라이언스(Sustainable and Scalable Infrastructure Association) 이사이자 전 에퀴닉스 엣지 인프라 서비스 글로벌 책임자인 재커리 스미스는 일부 데이터센터 운영자는 공기로 냉각할 수 없기 때문에 고밀도 랙을 사용하지 않고 동일한 워크로드를 여러 랙에 분산시킨다고 설명했다. 

하지만 AI 워크로드가 급증하면서 이로 인한 문제가 발생하고 있다. 스미스는 "데이터센터는 수십 년 동안 지속되는 인프라로 구축되는데, 불일치가 생겼다. 데이터센터 산업과 컴퓨팅 측면의 주기가 일치하지 않는다"라고 말했다. 특히 생성형 AI가 매우 빠르게 발전하면서 업계에 급격한 변화를 가져오고 있다.

AI 워크로드는 많은 양의 데이터를 빠르게 이동하므로 컴퓨팅 성능을 통합하려는 노력으로 이어진다는 점도 데이터센터 산업이 직면한 또 다른 문제다. 이 때문에 스미스는 "데이터센터는 더욱 고밀도화되어야 한다"라고 덧붙였다.

대세는 하이브리드 냉각

물론 데이터센터 전체를 교체하는 것은 많은 비용이 들며, 일반적으로는 불필요한 작업이다. 공랭식 냉각으로도 잘 작동하는 워크로드가 여전히 많이 있기 때문이다. 따라서 가까운 미래에 수랭 시스템을 도입하는 데이터센터 대부분은 아마도 하이브리드 방식으로 도입할 것으로 예상된다.

멀티 테넌트 시설에서 특히 그렇다. 스미스는 "지금 당장 새로운 데이터센터를 구축한다고 해도 에퀴닉스나 디지털 리얼티와 같은 멀티 테넌트 환경에서는 고객이 무엇을 가져올지 결정할 수 없다. 따라서 다양한 밀도와 기술에 대비해야 한다"라고 말했다.

하이퍼스케일러나 대기업이 운영하는 데이터센터와 같은 단일 테넌트 데이터센터는 자체적으로 인프라를 관리한다. 데이터센터는 일반적으로 수명이 긴 편이며, 기업은 수명 주기가 끝나기 전에 값비싼 장비를 철거하려고 하지 않을 것이다. 따라서 대부분 데이터센터 운영자는 실용적인 수랭 시스템 방식을 채택하게 될 것이라고 스미스는 설명했다. 

오늘날 대부분 데이터센터는 개별 칩, 서버 주변, 그리고 궁극적으로는 건물 전체로 공기를 이동시키는 여러 팬으로 냉각한다. 시끄럽고 비용이 많이 들며 비효율적인 시스템이다. 하지만 액체는 공기보다 열을 더 효율적으로 전달할 수 있다. 예를 들어 스미스는 "자동차에는 열을 이동시키는 일종의 액체로 된 라디에이터가 있다"라고 덧붙였다.

후면 도어 수랭 시스템

기존 공랭식 데이터센터에 수랭 시스템을 추가하는 방법은 여러 가지다. 가장 간단한 방법은 개별 서버 랙에 후면 도어 열교환기를 설치하는 것이다. 랙 뒤쪽에 있는 응축기가 차가운 액체를 공급하고 뜨거운 액체를 제거한다. 스미스는 "해당 장치가 후면 도어를 대체한다. 서버를 건드리지 않는 방법"이라고 설명했다.

더 고급 버전은 모든 랙에 액체를 공급할 수 있는 전체 케이지 또는 서버 랙의 냉각 장치를 대체하는 것이다. 스미스에 따르면, 이런 방법은 건물 전체를 업그레이드할 필요 없이 랙이나 케이지 하나만 업그레이드하면 된다. 한 테넌트는 후면 도어 열교환기를 통해 수랭 시스템을 적용하고, 다음 테넌트는 완전히 공랭식으로 냉각할 수 있다. 스미스는 이런 접근 방식이 IT 중단을 최소화한다고 강조했다.

IDC의 그레이엄에 따르면, 후면 도어 열교환기는 랙당 20~80kW의 랙 밀도를 처리할 수 있다. 그레이엄은 "후면 도어 열교환기는 고밀도 워크로드를 위해 기존 데이터센터를 개조하는 훌륭한 방법"이라고 설명하며, 가장 자주 접하는 수랭 시스템 기술이라고 말했다. 

이어 "이 기술은 서버를 개조하지 않고도 데이터센터 랙을 냉각할 수 있는 최적의 지점에 도달했다. 이 때문에 고밀도 랙을 구현하는 사람에게 매우 매력적인 선택지다. 새로운 배관이 필요하지만, 상대적인 노력 측면에서 보면 채택하기 좋은 방법"라고 덧붙였다.

칩 직접 냉각 시스템

그레이엄에 따르면, 칩 직접 냉각(direct-to-chip cooling) 시스템은 50~100kW의 랙 밀도를 처리할 수 있어 후면 도어 열교환기보다 훨씬 더 효율적이다. 스미스는 방열판을 꺼내서 그 위로 액체가 흐르게 함으로써 열을 이동시키는 방법이라고 설명했다. 서버를 개조해야 하고 설정 및 유지 관리가 복잡하다는 특징이 있다. 

칩 직접 냉각 시스템에서 액체는 액체마다 끓는점이 다르다. 액체로 유지되거나 증기로 변할 수 있는데 전자를 단상(single-phase), 후자를 2상(dual-phase) 시스템이라고 한다. 단상 시스템에서는 서버에서 열을 제거하기 위해 액체를 펌핑하고, 2상 시스템에서는 액체와 기체 상태가 자체적으로 순환된다.

스미스는 "기체는 액체보다 빠르게 이동하기 때문에 자체적으로 압력을 조절한다. 누출이 발생해도 다른 방향으로 흐르지 않으며, 펌프를 가동하지 않기 때문에 에너지 사용량도 적다. 또한 뜨거운 증기는 에너지 생산, 난방 또는 건물의 다른 용도로도 사용할 수 있다"라고 설명했다. 

액침 냉각 시스템

수랭 시스템에 대한 또 다른 접근 방식은 액침 냉각(immersion cooling)이다. IDC 그레이엄은 액침 냉각이 랙당 50~250kW 밀도를 처리할 수 있는 3가지 접근 방식 중 가장 효율적이라고 봤다. 컴퓨터를 기름과 같은 비전도성 액체가 담긴 통에 담그는 방식으로, 스미스는 "쉽게 말해 서버를 튀김기에 넣는 것"이라고 설명했다. 

액침 냉각에 사용되는 액체는 열을 전도하지만 가연성이 없다. 스미스에 따르면, 액침 냉각은 암호화폐 채굴자 사이에서 대중화했다. 단점은 매우 무겁다는 점인데, 스미스는 "이 정도 무게를 감당할 수 있는 데이터센터는 많지 않을 것"이라고 말했다. 

문제는 이뿐만 아니다. 스미스는 "누출이 발생했을 때 네트워크 케이블은 어떻게 연결해야 할까? 스위치는 어디로 가야 할까? 이런 문제점 때문에 액침 냉각 방식은 틈새 애플리케이션에 불과하다"라고 덧붙였다.

하지만 칩 제조업체가 액침 냉각을 활용할 기회는 많다. 스미스는 "액체에 싸여 있지만 액체가 보이지 않는 닌텐도 카트리지처럼 보이도록 제작할 수 있을 것이다. 기름통을 두지 않고 완전히 잠겨 있는 새로운 폼 팩터 설계도 있다"라고 말했다. 

수랭 시스템 제공업체 리퀴드스택(LiquidStack) CEO 조 케이프스는 완전 수랭식 데이터센터는 모든 공랭식 인프라를 제거해 공간과 비용을 절약할 수 있다고 설명했다. 하이브리드 접근 방식에서 액침 냉각 시스템은 새로운 고밀도 구역이나 모듈식 배포에서 사용할 수 있다는 설명이다. 동일한 공간에서 컴퓨팅 밀도를 3배 높일 수 있다는 이점이 있다. 

코로케이션 업체 스탠다드 파워(Standard Power) CEO 맥심 세레진은 수랭 시스템이 스탠다드 파워의 핵심적인 차별화 요소로 자리 잡았다고 언급했다. 스탠다드 파워는 리퀴드스택의 액침 냉각과 칩 직접 냉각 기술을 사용하고 있다. 세레진에 따르면 AI, 고성능 컴퓨팅, 암호화 및 기타 데이터 집약적 워크로드를 사용하는 고객이 수랭 시스템을 사용한다.

수랭 시스템 도입의 장애물

수랭 시스템을 채택하는 데에는 몇 가지 큰 장애물이 있다. 안전에 대한 우려, 교육 부족 외에도 표준의 부재가 대표적이다. 예를 들어, 특정 화학물질이 미국에서는 데이터센터 냉각에 허용되지만 독일에서는 허용되지 않을 수 있다. 또한 공급업체마다 크기와 구조가 다른 커플러를 사용할 수 있다. 이 때문에 SSI 얼라이언스에서는 여러 기업이 모여 데이터센터 표준을 마련하기 위해 협력하고 있다.

스미스는 "현재 데이터센터에는 누구나 원하는 것을 무엇이든 넣을 수 있다. 모양, 크기, 폼 팩터, 케이블 배치 위치에 대한 표준이 없다. 서로 다른 제조업체의 제품을 효율적인 방식으로 연결할 수 있는 방법이 없다. 수랭 시스템에서는 '왼쪽에 설치해야 할까, 오른쪽에 설치해야 할까? 끼우는 방식인가, 나사로 고정하는 방식인가?'와 같은 고민이 필요하다. 여러 공급업체의 솔루션이 서로 호환되지 않는다. 수랭 시스템의 배포를 가속화하기 위해 공통의 표준이 필요한 이유"라고 강조했다. 

또 다른 장애물은 수랭 시스템을 다룰 수 있는 숙련된 데이터센터 직원이 부족하다는 점이다. 스미스는 "데이터센터 운영자 관점에서 가장 큰 문제는 '수랭 시스템을 지원하느냐'가 아니라 '운영할 수 있느냐'다. 현재 위치한 지역의 규제는 무엇인가? 어떤 종류의 액체를 허용하는지에 대해 고객과 어떻게 소통하고 있는가? 위반 시에는 어떻게 되는가? 등의 문제를 생각해야 한다"라고 말했다. 

콘스텔레이션 리서치(Constellation Research) 애널리스트 홀거 뮐러는 물리적 공간도 문제라고 지적했다. 뮐러는 "전통적으로 서버를 앞쪽에 열어서 배치하고 중요한 것은 모두 뒤쪽에 배치해 인프라를 설치하고 냉각한다. 하지만 그곳에 다른 냉각 시스템을 설치할 수 있는 공간은 없다"라고 지적했다.

바다 속에도 있다?

일부 기업은 '완전 액침'에 대한 실험을 하기도 했다. 말 그대로 바다에 완전 담그는 것이다. 전 세계 인구 절반 이상이 해안에서 120마일 이내에 거주하고 있기 때문에 데이터센터를 수중에 두면 잠재적으로 업계에 혁명을 일으킬 수 있다.

2018년 마이크로소프트는 스코틀랜드 해안에서 117피트 깊이의 바다에 데이터센터 전체를 가라앉혔다가 2년 후 다시 인양했다. 마이크로소프트는 데이터센터의 대기가 공기가 아닌 질소로 채워져 있고 주변에 사물에 부딪히거나 부품을 뒤섞을 사람이 없기 때문에 수중 서버의 안정성이 지상 서버보다 8배 더 높다는 사실을 발견했다.

하지만 그 이후로 이 주제에 대한 마이크로소프트의 추가 소식은 없었다. 아마도 데이터센터를 물속에 넣는 데 따르는 물류상의 문제 때문일 수 있다. 

서브시 클라우드(Subsea Cloud)와 하이랜더(Highlander)를 비롯한 다른 기업도 이 분야에 뛰어들고 있다. 서브시 클라우드는 2022년 말 첫 번째 상업용 데이터센터를 바다 아래서 가동할 계획이었지만, 2023년 10월 기준으로 아직 랙을 가라앉히지 못했다. 한편 하이랜더는 2022년 말 중국 하이난에 첫 번째 상업용 해저 데이터센터를 개소했으며, 차이나 텔레콤을 첫 번째 고객으로 확보했다.

다만 스미스는 해저 데이터센터의 문제점은 장비를 교체하기 위해 해저에 들어갈 수 있어야 한다는 점이라며 "그래서 그다지 인기가 없었다. 데이터센터가 바다 밑에 있든 우주에 있든, 심지어 위스콘신에 있든, 아직 업계는 장비를 효율적으로 설치하고 제거할 수 있는 좋은 메커니즘을 갖추지 못했다"라고 지적했다.
editor@itworld.co.kr