Offcanvas

데이터센터 / 서버

AMD, CPU·GPU·메모리 통합 배치한 데이터센터 가속기 ‘인스팅트 MI300’ 발표

2023.01.11 Brian Cheon  |  CIO KR
AMD의 인스팅트 MI300(Instinct MI300) 서버 가속기는 이전 모델보다 무려 8배의 성능을 발휘할 수 있다고 회사 측은 강조했다.



CES는 엔터프라이즈 제품이 발표될 만한 공간으로 보이지 않는다. 그러나 AMD는 이 라스베이거스 전시회에서 새로운 서버 가속기를 공개했다. 꽤나 놀라운 제원을 가지는 제품이다. 

이 가속 처리 장치(APU)는 CPU 코어, GPU 코어 및 고대역폭 메모리(HBM)를 포함한 13개의 칩렛이 혼합된 제품이다. 총 1,460억 개의 트랜지스터를 내장했다. 참고로 인텔의 야심한 폰테 베키오 프로세서는 약 1,000억 개의 트랜지스터를, 엔비디아의 호퍼 H100 GPU는 800억 개의 트랜지스터를 품고 있다. 

인스팅트 MI300을 이루는 요소로는 일단 24개의 젠 4 CPU 코어와 6개의 CDNA 칩렛이 있다. CDNA는 회사의 RDNA 소비자 그래픽 기술의 데이터센터 버전이다. 한편 AMD는 칩렛당 GPU 코어 수를 밝히지 않았다. 인스팅트 MI300을 구성하는 다른 요소로는 3D 디자인으로 쌓인 128MB의 HBM3 메모리가 있다. 

오늘날 3D 디자인 작업은 CPU, GPU 및 메모리 다이 간의 엄청난 데이터 이동을 필요로 한다. 인스팅트 MI300에서는 데이터가 CPU 또는 GPU에서 디램으로 이동할 필요가 없다. HBM 스택으로 이동함으로써 대기 시간을 크게 줄인다. 또한 CPU와 GPU가 동일한 메모리 데이터에서 동시에 작업할 수 있어 처리 속도가 빨라진다.

AMD의 리사 수 CEO는 90분 동안의 CES 기조 연설 말미에 이 칩을 발표했다. 그는 “CPU, GPU, 메모리를 단일 통합 설계한 최초의 칩”이라며, “이를 통해 메모리 및 IO에 대한 시스템 리소스를 공유할 수 있으며, 그 결과 성능과 효율성이 크게 향상되고 프로그래밍이 훨씬 쉬워진다”라고 말했다. 

수 CEO에 따르면 MI300은 전작인 MI250과 비교해 AI 성능이 8배 빠르며, 와트당 성능은 5배에 달한다. 그는 최근 눈길을 끌고 있는 AI 챗봇 챗GPT를 언급했다. 훈련 시간을 몇 달에서 몇 주로 단축시켜 수백만 달러 상당의 전기를 절약할 수 있다는 설명이다. 참고로 MI250은 오크릿지 국립 연구소에 소재한 최초의 엑사스케일 슈퍼컴퓨터인 프론티어에 사용된 바 있다. 수 CEO는 MI300 칩이 올해 하반기 출시될 예정이다. ciokr@idg.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.