Offcanvas

AI / 데이터센터 / 머신러닝|딥러닝 / 서버 / 신기술|미래

엔비디아, 서버용 '그레이스' 슈퍼칩 2종 세부 정보 공개

2022.03.28 Brian Cheon  |  CIO KR
엔비디아가 ‘그레이스’ 서버용 칩에 대한 세부사항을  추가 공개했다. AI 워크로드 뿐 아니라 GPU에 최적화되지 않은 기존 고대역폭 애플리케이션에도 적합한 특징을 가진 칩도 등장한다.  

작년 GPU 기술 컨퍼런스(GTC)에서 엔비디아는 Arm 네오버스 v9 서버 아키텍처에 기반한 서버 칩을 출시할 계획이라고 공개했던 바 있다. 이에 대한 세부 정보가 지난주 드러났다.

발표에 따르면 이번 그레이스 서버용 칩은 GPU 유무에 따라 크게 2가지로 나뉜다. 첫 번째는 작년에 공식적으로 소개되었지만 대략적으로만 설명된 ‘그레이스 호퍼 슈퍼칩’이다. 72코어 CPU와 호퍼 H100 GPU로 구성됐으며, 이들은 900GB/s의 전송 속도의 고속 NV링크-C2C 인터커넥트로 연결된다.

지난주 발표된 두 번째는 GPU가 없는 그레이스 CPU 슈퍼칩이다. NV링크를 통해 72코어 CPU 2개가 서로 연결된다. 회사에 따르면 H100 GPU 없이도 꽤 준수한 벤치마크 값을 보여준다. 엔비디아는 ‘SPECrate2017_int_base’ 성능 평가 시, 듀얼 하이엔드 AMD 에픽 롬 세대 프로세서(엔비디아 DGX A100 서버에 적용)의 1.5배 이상의 성능을 갖췄다고 주장했다. 

이 밖에 그레이스 칩 2종은 모두 LPDDR5X라고 부르는 새로운 메모리 기술을 채택했다. 물리적으로 DIMM 슬롯의 메모리 모듈이 아니라 칩 자체 바로 옆에 존재하게 된다. 이 직접 연결은 메모리 내 오류 수정을 지원하면서 최대 1TB/s의 대역폭을 구현할 수 있다. 카리아 디렉터는 기존 DIMM 메모리를 사용하는 현재의 엔비디아 암페어에서보다 최대 30배 더 빠르다고 강조했다. 

엔비디아의 프레시 카리아 제품 관리 및 마케팅 선임 디렉터는, 이번 그레이스 칩 2종이 서로 다른 시장에 적용될 것이라고 설명했다. 그레이스 호퍼 슈퍼칩의 경우 방대한 규모의 AI 및 HPC 용도에 최적화됐다는 설명이다. CPU와 GPU를 NV링크 인터케넉트로 연결함으로써 PCIe 슬롯에 의한 병목 현상을 방지할 수 있다는 이야기다. 

한편 그레이스 CPU 슈퍼칩의 경우 CPU와 LPDDR5X 메모리가 500와트 전력 소비로 단일 패키지로 구성됐다는 특징을 지닌다. 시중의 주요 CPU보다 2배 더 에너지 효율적이라고 회사는 강조했다. 엔비디아에 따르면 듀얼 소켓 x86 서버는 그리 많지 않은 코어에도 불구하고 500W를 가볍게 넘어서는 것이 일반적이며, 메모리 전력 소비는 별도다. 

카리아는 이 칩이 메모리 대역폭은 GPU용으로 아직 가속화되지 않은 다양한 애플리케이션에서 유용할 것이라고 설명했다. 

AI 추론 작업에도 유용할 수 있다는 설명이다. 그에 따르면 일부 추론 작업에는 CPU가 수행해야 하는 많은 사전 및 사후 처리가 필요하다. 그는 “아직 GPU에서 가속화되지 않는 애플리케이션들이 있다. 이러한 애플리케이션에서 즉시 효용성을 기대할 수 있다. 고용량 메모리 대역폭이 잘 어울리는 애플리케이션들이기도 하다”라고 말했다.

그레이스 CPU 슈퍼칩과 그레이스 호퍼 슈퍼칩은 올해 말이나 내년 초 출하될 예정이다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.