Offcanvas

AI / 서버

AMD, 새 AI 전용 프로세서 공개⋯“1개로 GPU 여러 개 성능”

2023.06.16 Andy Patrizio  |  Network World
AMD가 새로운 AI 전용 인스팅트(Instinct) 프로세서를 내놓고 엔비디아의 AI 왕좌를 노린다. 가장 큰 특징은 메모리와 대역폭을 확장해 GPU 여러 개가 필요한 작업을 1대로 처리한다는 점이다.

AMD CEO 리사 수는 최근 샌프란시스코에서 열린 AMD 행사에서 첫 인스팅트 칩인 MI300X를 공개했다. 컵받침 만한 크기의 프로세서인데, 수는 이를 "역대 가장 복잡한 AMD 제품"이라고 표현했다. MI300X에는 트랜지스터 1,460억 개가 집적돼 있다. 최대 대역폭이 192GB인 HBM3 메모리를 CPU와 GPU가 공유한다. 다이에는 칩렛이 총 13개다. 메모리 대역폭은 5.2TB/s로 엔비디아의 H100보다 60% 더 빠르다.

이 칩은 젠(Zen) CPU 코어와 AMD의 차세대 CDNA GPU 아키텍처로 구성돼 있다. 수는 방대한 메모리가 이 제품의 가장 큰 장점이라고 설명했다. 그는 "오늘날 AI 업계를 보면 무엇보다 모델 크기가 점점 더 커지고 있다. 실제로 최신 대규모 언어모델을 실행하려면 GPU가 여러 개 필요하다. MI300X를 이용하면 이런 작업을 위한 GPU 수를 줄일 수 있다. 앞으로 모델 크기가 점점 커짐에 따라 이런 특성은 더 중요해질 것이다. 메모리와 대역폭이 더 커질수록 필요한 GPU는 더 줄어든다"라고 말했다.

업체에 따르면, MI300X는 기존 MI250X보다 8배 더 강력한 성능을 낼 수 있도록 설계됐다. MI250X는 현재 세계 최고 슈퍼컴퓨터인 프론티어(Frontier)에 사용된 제품이고, 새로운 MI300X는 내년에 구축될 로렌스 리버모어 국립연구소의 엑사 플로급 '엘 캐피탄(El Capitan)' 시스템에 들어갈 예정이다.

이번 행사에서 수는 새 칩과 함께 AMD 인스팅트(AMD Instinct) 플랫폼을 공개했다. 오픈 컴퓨트 프로젝트(Open Compute Project)의 사양을 지원하는 서버 레퍼런스 설계로, MI300X GPU 8개를 이용해 생성형 AI 학습과 추론 작업을 처리한다. 이는 곧 대기업과 하이퍼스케일 기업이 인스팅트 플랫폼을 이용해 MI300X GPU를 기존 OCP 서버 랙에 장착할 수 있음을 의미한다. 수는 "MI300X는 기존 AI 장비에 손쉽게 추가할 수 있어, 기업의 제품개발시기를 단축하고 전체적인 개발비를 낮출 수 있다"라고 말했다.

한편 이날 AMD는 코드명 베르가모(Bergamo)로 알려진 4세대 에픽 97X4 프로세서에 대한 정보도 공개했다. 이 프로세서는 클라우드 환경을 위한 전용 제품으로, 가상머신을 실행하기 위해 많은 코어를 가지고 있다. 베르가모는 하이퍼쓰레드를 지원하는 128코어로 구성되므로, 듀얼 소켓 시스템은 최대 512개 가상 CPU까지 지원할 수 있다.

AMD에 따르면, 베르가모는 새로운 클라우드 컴퓨팅 프레임워크의 장점을 최대한 활용하도록 만들어졌고, 기본적으로 마이크로서비스로 작동한다. 이런 프로세스 설계는 다른 일반적인 목적의 컴퓨팅과 차이가 크다. 베르가모 프로세서는 더 작고 작업 처리에 집중한 제품이므로 더 많은 코어를 지원하도록 설계됐다.

수는 "베르가모는 데이터센터용 CPU 제노아(Genoa)를 위해 개발했던 모든 플랫폼 인프라를 활용한다. 차세대 메모리와 IO 기능도 모두 똑같이 지원한다. 단지 바뀐 것은 소켓당 128코어까지 확장해 클라우드 환경에서 높은 성능과 에너지 효율성을 보여준다"라고 말했다. MI300X와 베르가모 모두 올 3분기에 테스트 생산을  시작한다.
editor@itworld.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.