2019.11.06

"우편 데이터 처리 10배 ↑"··· 엔비디아, USPS에 AI 시스템 및 기술 제공

김달훈 | CIO KR
미국 우편 서비스(USPS;US Postal Service)가 빠르고 효율적인 데이터 처리를 위해 인공지능을 도입한다. USPS는 약 4억 8,500만 건의 우편물을 처리하고 배달하는 세계 최대의 우편 서비스로, 물류 센터의 규모도 세계에서 가장 크다. 일 년을 기준으로 하면 약 60억 개의 패키지(Package)와 1,460억 개의 편지나 우편물을 처리하고 배달하고 있다.

이렇게 방대한 우편 패키지 데이터 처리를 위해 엔비디아의 엔드-투-엔드(end-to-end) 인공지능 기술을 채용한다. USPS와 엔비디아는 ‘엔비디아 V100 텐서 코어 GPU(NVIDIA V100 Tensor Core GPUs)와 딥 러닝(Deep Learning) 소프트웨어로 구동되는 고성능 서버를 활용하고, 이를 기반으로 다양한 인공지능 알고리즘을 훈련시킬 계획이다. 시스템 설치와 테스트는 올해 안에 시작하고, 2020년 봄까지 모든 작업을 완료할 예정이다.


미국 우체국에 엔비디아의 인공지능 기술이 적용된 패키지 데이터 처리 시스템이 공급된다. 2020년 봄까지 시스템 설치가 완료되면 현재와 비교할 때 최대 10배 빠르고 정확한 패키지 데이터 처리가 가능할 것이라고 엔비디아는 밝혔다.(이미지 : 엔비디아)

훈련된 인공지능 알고리즘은, 엔비디아 EGX 엣지 컴퓨팅 시스템에 배포되고, 이를 활용해 미국 전역에 있는 200개의 우편 서비스 시설에서 데이터를 처리하게 된다. 새로운 인공지능 시스템을 패키지 데이터 처리에 적용하면, 데이터 처리 속도와 정확성이 약 10배 정도 빨라질 것이라고 엔비디아는 밝혔다. 엔비디아 시스템을 채용한 서버 공급은 HPE(Hewlett Packard Enterprise)가 맡을 것으로 알려졌다.

USPS와 엔비디아의 엔지니어링팀은 지난 몇 달간 엔비디아 시스템과 소프트웨어를 활용해, 패키지 데이터 처리에 적합한 인공지능 모델을 개발하기 위해 협력해 왔다. 우체국에서 처리하는 패키지 데이터가 방대한 만큼, 지연 시간이 짧은 추론 최적화를 위해 텐서RT(TensorRT) 등을 활용해 프로젝트를 진행했다. 아울러 소프트웨어 배포를 간소화하기 위해 GPU에 최적화된 NGC 컨테이너, GPU 클러스터 최적화를 위해서는 딥옵스(DeepOps)를 활용했다.

엔비디아 V100 텐서 코어 GPU는 데이터 센터용 그래픽 프로세서 유닛으로, 고성능 컴퓨팅(HPC), 데이터 과학, 그래픽 데이터 처리 등에 사용된다. 특히 인공지능 가속 기능을 탑재하고 머신러닝 기능을 지원하기 때문에, 복잡한 딥러닝 모델 훈련을 거쳐 활용되고 있다. 테슬라 V100은 NVLink와 PCIe 인터페이스 방식의 두 가지 모델이 있으며, 메모리 용량은 16GB 또는 32GB를 지원한다.

엔비디아 EGX 엣지 컴퓨팅 시스템(NVIDIA EGX edge computing systems)은 클라우드 네이티브 소프트웨어 스택, 다양한 서버와 장치, 제품 및 서비스를 통해 가속화된 AI 컴퓨팅 기능을 제공하는 엣지 플랫폼이다. 엔비디아가 테스트하고 최적화한 AI 및 데이터 과학 소프트웨어가 포함된 AI 컨테이너를 실행할 수 있으며, GPU 지원 쿠버네티스(Kubernetes) 클러스터 프로비저닝에 필요한 구성 요소의 배포를 표준화하고 자동화한다.

엔비디아의 대정부 비즈니스 부문(Federal Sector Business) 부사장인 앤서니 로빈스는 “AI는 프로세스, 정확성, 효율성 개선할 수 있도록 다양한 산업을 변화시키고 있다. 미국 우체국에서의 AI 채택은 강력한 인공지능 기술이 우리가 매일 의존하는 서비스를 어떻게 개선 할 수 있는지를 보여줄 것이다”라고 밝혔다. ciokr@idg.co.kr



2019.11.06

"우편 데이터 처리 10배 ↑"··· 엔비디아, USPS에 AI 시스템 및 기술 제공

김달훈 | CIO KR
미국 우편 서비스(USPS;US Postal Service)가 빠르고 효율적인 데이터 처리를 위해 인공지능을 도입한다. USPS는 약 4억 8,500만 건의 우편물을 처리하고 배달하는 세계 최대의 우편 서비스로, 물류 센터의 규모도 세계에서 가장 크다. 일 년을 기준으로 하면 약 60억 개의 패키지(Package)와 1,460억 개의 편지나 우편물을 처리하고 배달하고 있다.

이렇게 방대한 우편 패키지 데이터 처리를 위해 엔비디아의 엔드-투-엔드(end-to-end) 인공지능 기술을 채용한다. USPS와 엔비디아는 ‘엔비디아 V100 텐서 코어 GPU(NVIDIA V100 Tensor Core GPUs)와 딥 러닝(Deep Learning) 소프트웨어로 구동되는 고성능 서버를 활용하고, 이를 기반으로 다양한 인공지능 알고리즘을 훈련시킬 계획이다. 시스템 설치와 테스트는 올해 안에 시작하고, 2020년 봄까지 모든 작업을 완료할 예정이다.


미국 우체국에 엔비디아의 인공지능 기술이 적용된 패키지 데이터 처리 시스템이 공급된다. 2020년 봄까지 시스템 설치가 완료되면 현재와 비교할 때 최대 10배 빠르고 정확한 패키지 데이터 처리가 가능할 것이라고 엔비디아는 밝혔다.(이미지 : 엔비디아)

훈련된 인공지능 알고리즘은, 엔비디아 EGX 엣지 컴퓨팅 시스템에 배포되고, 이를 활용해 미국 전역에 있는 200개의 우편 서비스 시설에서 데이터를 처리하게 된다. 새로운 인공지능 시스템을 패키지 데이터 처리에 적용하면, 데이터 처리 속도와 정확성이 약 10배 정도 빨라질 것이라고 엔비디아는 밝혔다. 엔비디아 시스템을 채용한 서버 공급은 HPE(Hewlett Packard Enterprise)가 맡을 것으로 알려졌다.

USPS와 엔비디아의 엔지니어링팀은 지난 몇 달간 엔비디아 시스템과 소프트웨어를 활용해, 패키지 데이터 처리에 적합한 인공지능 모델을 개발하기 위해 협력해 왔다. 우체국에서 처리하는 패키지 데이터가 방대한 만큼, 지연 시간이 짧은 추론 최적화를 위해 텐서RT(TensorRT) 등을 활용해 프로젝트를 진행했다. 아울러 소프트웨어 배포를 간소화하기 위해 GPU에 최적화된 NGC 컨테이너, GPU 클러스터 최적화를 위해서는 딥옵스(DeepOps)를 활용했다.

엔비디아 V100 텐서 코어 GPU는 데이터 센터용 그래픽 프로세서 유닛으로, 고성능 컴퓨팅(HPC), 데이터 과학, 그래픽 데이터 처리 등에 사용된다. 특히 인공지능 가속 기능을 탑재하고 머신러닝 기능을 지원하기 때문에, 복잡한 딥러닝 모델 훈련을 거쳐 활용되고 있다. 테슬라 V100은 NVLink와 PCIe 인터페이스 방식의 두 가지 모델이 있으며, 메모리 용량은 16GB 또는 32GB를 지원한다.

엔비디아 EGX 엣지 컴퓨팅 시스템(NVIDIA EGX edge computing systems)은 클라우드 네이티브 소프트웨어 스택, 다양한 서버와 장치, 제품 및 서비스를 통해 가속화된 AI 컴퓨팅 기능을 제공하는 엣지 플랫폼이다. 엔비디아가 테스트하고 최적화한 AI 및 데이터 과학 소프트웨어가 포함된 AI 컨테이너를 실행할 수 있으며, GPU 지원 쿠버네티스(Kubernetes) 클러스터 프로비저닝에 필요한 구성 요소의 배포를 표준화하고 자동화한다.

엔비디아의 대정부 비즈니스 부문(Federal Sector Business) 부사장인 앤서니 로빈스는 “AI는 프로세스, 정확성, 효율성 개선할 수 있도록 다양한 산업을 변화시키고 있다. 미국 우체국에서의 AI 채택은 강력한 인공지능 기술이 우리가 매일 의존하는 서비스를 어떻게 개선 할 수 있는지를 보여줄 것이다”라고 밝혔다. ciokr@idg.co.kr

X