Offcanvas

AI / 비즈니스|경제 / 서버

AMD가 AI를 CPU·GPU만큼 중시하는 이유

2023.05.18 Mark Hachman  |  PCWorld
한 AMD 고위 임원에 따르면, AMD는 라이젠 제품군 전반에 AI를 더 심층적으로 통합하는 방안을 고려 중이다. 하지만 아직 한 가지 요소, 이를 실제로 활용할 클라이언트 애플리케이션과 운영체제가 없다. 
 
ⓒ Playground AI

AMD는 지난 1월 라이젠 7040HS가 포함된 라이젠 7000 시리즈를 출시했고 5월 초에는 7040HS의 저전력 버전인 라이젠 7040U를 발표했다. 두 프로세서는 최초의 PC용 AI 로직 중 하나인 라이젠 AI XDNA 하드웨어를 처음으로 탑재한 칩이다.

그러나 지금까지의 AI는 스테이블 디퓨전(Stable Diffusion)을 비롯한 일부를 제외하면 전적으로 클라우드에서 실행되는 서비스다. AMD의 모험이 위험한 이유가 바로 이 부분이다. 값비싼 실리콘을 굳이 IPU(Inference Processing Unit)에 투입해 PC에서는 아무도 제대로 사용할 수 없는 기능을 발전시키는 이유가 무엇일까?

이 질문은 PCWorld가 AMD 클라이언트 채널 비즈니스 부문 부사장이자 총괄 관리자인 데이비드 맥아피에게 던진 질문 중 하나다. 맥아피에 따르면, 지금은 AI 처리 측면에서 전반적으로 어떤 일이 일어나고 있는지 명확히 밝히는 데 도움이 될 일련의 발표와 이벤트가 이어지기 직전이다. 이것은 빙산의 일각에 불과하다. 

맥아피가 말하는 것이 구글 I/O인지, 이달 말 개최되는 마이크로소프트 빌드 개발자 컨퍼런스인지, 전혀 다른 무엇인지는 명확하지 않다. 그러나 AMD는 AI에 대해 생각보다 ‘작은 보폭’의 접근 방식을 취하는 듯하다.


“PC의 AI, 생각만큼 복잡하지 않다”

물론 충분한 스토리지와 메모리를 확보했다면 라이젠 CPU 또는 라데온 GPU에서도 AI 모델을 실행할 수는 있다. 그러나 맥아피는 라이젠이나 라데온은 이런 유형의 컴퓨팅에 사용하기에 너무 무거운 망치 같다고 설명했다.

AMD는 PC에서의 AI를 IPU로 불리는 AI 프로세서에서 실행되는, 작고 가볍고 자주 트리거되는 작업으로 본다. AMD는 꽤 오래전부터 AI를 사용하면서 PC를 위한 AI 기술을 실험하고 최적화해 왔으며, 프리시전 부스트 2(Precision Boost 2), mXFR, 스마트 프리페치(Smart Prefetch)를 통해 클럭 속도를 조정하는 라이젠 프로세서용 센스MI(SenseMI)라는 우산 아래에 여러 기술을 혼합했다. IPU는 이들 기술을 다른 차원으로 끌어올릴 수 있다.
 


맥아피는 “IPU와 미래의 IPU는 특정 유형의 컴퓨팅을 전력 효율적인 방식으로 수행하는 특화된 엔진의 조합에 가깝다”라며, “어떤 면에서는 메모리 서브시스템 및 프로세서의 나머지 부분과 통합된다. GPU에서 실행되는 워크로드는 앞으로 일회성 이벤트보다는 (지속적으로 실행되는 워크스트림까지는 아니라 해도) 사용자 플랫폼에서 일어나는 더 빈번한 컴퓨팅 유형이 될 것으로 예상된다”라고 말했다.

AMD는 IPU를 비디오 디코더와 비슷한 것으로 간주한다. 과거 비디오 디코딩 작업은 라이젠 CPU에서 힘으로 밀어붙일 수 있었다. 그러나 쾌적한 경험을 확보하려면 막대한 컴퓨팅 성능이 필요했다. 맥아피는 “이런 방법 대신 칩 설계의 일부분이면서 엄청나게 효율적인, 비교적 작은 엔진을 사용해서 이 작업을 수행할 수도 있다”라고 말했다.

이 말은 적어도 지금은 라이젠 AI IPU가 별도의 카드 또는 자체 메모리 서브시스템을 갖지는 않는다는 의미다. 스테이블 디퓨전의 생성형 AI 모델은 전용 비디오 RAM을 사용해서 실행된다. 그러나 “AI RAM”의 개념에 대한 질문을 받자 맥아피는 “그 방식은 비용이 매우 클 것”이라며 부정적인 입장을 밝혔다.


라이젠의 AI 미래

XDNA와 라이젠 AI의 관계는 첫 번째 용어가 아키텍처를 정의하고 두 번째 용어는 브랜드를 정의한다는 면에서 RDNA와 라데온의 관계와 같다. AMD는 자일링스(Xilinx) 인수를 통해 AI 역량을 확보했지만, 정확한 세부 사항은 공개하지 않았다. 맥아피는 AMD와 경쟁사들이 일반 소비자들이 이해할 수 있는 언어, 예를 들어 CPU를 정의하는 데 도움이 되는 코어 개수나 클럭 속도 등을 사용해 라이젠 AI의 역량을 정의해야 한다는 점을 인정했다.

맥아피는 “IPU와 함께 아키텍처 세대라는 것이 있다. 올해 제품에 통합하는 것과 미래의 제품에 통합하는 것은 서로 아키텍처 세대가 다를 수 있다”라고 말했다.
 
ⓒ AMD

문제는 소비자에 맞는 AI 척도(예를 들어, 병렬 스트림당 코어 수 또는 신경층)가 정의되지 않았고, TOPS(Trillions of Operations Per Second), 와트당 TOPS 외에는 일반적으로 통용되는 AI 척도도 없다는 점이다.

맥아피는 “사용자가 AMD의 위젯 A와 퀄컴의 위젯 B를 구분해서 이해하는 데 도움이 되는 확고한 업계 표준 벤치마크 또는 업계 표준 척도가 아직 없다. 지금의 언어와 벤치마크로는 사용자가 지금 무엇을 선택해야 하고 어느 쪽에 투자해야 하는지 쉽게 이해하지 못한다”라고 말했다.

라이젠 AI가 두 개의 라이젠 노트북 프로세서에만 배포되는 만큼 나머지 CPU 라인업에는 어떻게 배포될 것인지가 자연스러운 질문으로 떠오른다. 맥아피는 해당 부분에 대한 논의 역시 진행 중이라면서, “라이젠 제품군 전반에 걸쳐 AI에 대해 논의하고 있다”라고 설명했다.

라이젠 AI 코어 제조에는 부가적인 비용이 따르는 만큼 AMD는 특히 보급형 프로세서에서 라이젠 AI가 더하는 가치를 평가하고 있다. 맥아피는 AMD가 로우엔드 모바일 라이젠 칩에 라이젠 AI를 추가하려면 먼저 “훨씬 더 구체적인” 최종 사용자 혜택이 확인되어야 한다고 말했다.
 
ⓒ AMD

AMD가 데스크톱 라이젠에 라이젠 AI를 추가할까? 다소 의외일 수도 있지만 확실치 않다. 맥아피는 이 질문을 데스크톱의 전략 효율성 측면에서 고려했다. 맥아피는 데스크톱의 성능을 감안할 때 “라이젠 AI는 기기의 일상적인 가치를 이끄는 역할보다는 테스팅 툴이 될 수 있다”라고 언급했다. 맥아피는 코어 수가 많은 스레드리퍼(Threadripper)가 AI 학습에 사용될 수도 있지만, 꼭 사용해야 하는 것은 아니라고 덧붙였다.

다만 AMD는 AI가 현재 CPU와 GPU의 위치에 오를 것으로 믿는다. 맥아피는 “머지않은 미래에는 사람들이 CPU와 GPU 외에 AI도 자신의 시스템에 가치를 더하는 세 번째 컴퓨팅 요소로 고려할 것이라고 확신한다”라고 말했다.


AI의 다음 단계

전통적으로 칩 발전은 매우 단순하게 진행됐다. 개발자가 새 앱을 고안해서 범용 CPU에서 실행되도록 프로그램한다. 시간이 지나면서 업계가 특정 작업(가령 비디오 게임)에 정착하고 특화된 하드웨어가 그 뒤를 따른다. 데이터센터의 추론 칩은 몇 년에 걸쳐 개발됐지만, 앱 개발자들은 소비자가 어떤 용도로 이 칩을 사용할 수 있는지는 물론이고 AI가 무엇을 할 수 있는지에 대해서도 여전히 연구 중이다.

맥아피는 AI 애플리케이션이 클라우드가 아닌 PC에서 실행되는 데는 두 가지 이유가 있을 것이라면서, “이런 모델이 성숙한 수준에 도달하거나 실용적인 응용에 도달하는 시점이 오고 그렇게 되면 개발자가 모델을 정량화하고 배터리 수명 측면의 이점을 얻기 위해 모바일 PC 플랫폼에 상주하는 로컬 AI 가속기에 이를 배치하는 것이 타당해질 것”이라고 말했다.
 
ⓒ Foundry

두 번째 이유는 보안이다. AI가 기업 활동에 통합되면 그 기업과 기업의 소비자는 개인 또는 비즈니스 데이터가 클라우드로 유출될 위험을 피하고자 전용 AI 서비스를 원할 것이다. 맥아피는 “공개된 인스턴스가 나의 모든 이메일과 문서를 스캔하고 사용할 수 있는 상황은 원하지 않을 것”이라고 말했다.


소프트웨어가 할 일

맥아피는 마이크로소프트의 로드맵에 대해 알고 있는 부분, 그리고 윈도우 12가 AI와 더 긴밀하게 통합될 수 있다는 추측에 대해서는 말을 아꼈다. 소비자 AI 애플리케이션에는 게임이 포함될 수 있다. 예를 들어, 대본에 따른 대화가 아닌 지능적으로 대화하는 NPC가 가능할 것이다.

맥아피는 “이것이 핵심이 될 것이라고 생각한다. 향후 3년 동안 소프트웨어와 사용자 경험이 그 가치를 제공해야 하고, 이제 갓 PC에 대한 대화에 등장하고 있는 흥미롭고 새로운 이 기술을 혁신적인 기술로 발전시켜야 한다”라고 말했다.

다만 맥아피는 AI의 성패에 대한 책임이 온전히 AMD, 인텔, 퀄컴을 비롯한 하드웨어 업계에만 있는 것은 아니라고도 덧붙였다.

맥아피는 “AI의 궁극적인 성공에 있어 관건은 결국 소프트웨어가 받쳐주느냐다. 소프트웨어와 사용자 경험이 한껏 높아진 기대에 부응하는가? 이것이 핵심이 될 것이다. 향후 3년 동안 소프트웨어와 사용자 경험이 그 가치를 제공해야 하며, 이제 갓 PC에 대한 대화에 등장하고 있는 흥미롭고 아직은 새로운 단계인 이 기술을 성능과 기기, 그리고 이를 사용하는 방법에 대한 사고방식에 혁신을 일으키는 기술로 발전시켜야 한다”라고 말했다.
editor@itworld.co.kr
CIO Korea 뉴스레터 및 IT 트랜드 보고서 무료 구독하기
Sponsored
추천 테크라이브러리

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.