Offcanvas

머신러닝|딥러닝 / 애플리케이션 / 오픈소스 / 클라우드

AWS, 파이토치용 오픈소스 모델 서버 공개

2020.05.08 Paul Krill  |  InfoWorld
파이토치 모델을 쉽게 개발하게 해주는 토치서브(TorchServe)는 A/B 테스트를 위한 다중 모델 서빙 및 모델 버전 관리를 지원한다.
 
ⓒDreamstime

아마존웹서비스(AWS)가 파이토치 머신러닝 모델을 제공하기 위한 토치서브라는 오픈소스 툴을 발표했다. 토치서브는 파이토치를 개발한 페이스북과 파트너십을 맺어 AWS에서 유지하고 관리하며 파이토치 프로젝트의 일부가 깃허브에서 제공된다.

4월 21일에 출시된 토치서브는 프로덕션 환경에서 파이토치 모델을 쉽게 배포할 수 있도록 설계되었다. 짧은 대기 시간으로 부담을 주지 않는 환경과 고성능 추론을 제공하는 것이 목표다. 

토치서브의 주요 기능은 다음과 같다.

• 객체 감지 및 텍스트 분류 같은 범용 애플리케이션을 위한 기본 처리기로 사용자가 모델을 배포하기 위해 사용자 지정 코드를 작성하지 않아도 됨
• 다중 모델 서빙
• A/B 테스트를 위한 모델 버전 관리
• 모니터링 지표
• 애플리케이션 통합을 위한 RESTful 엔드포인트

쿠버네티스, 아마존 세이지메이커(SageMaker), 아마존 EKS, 아마존 EC2를 포함한 모든 배포 환경은 토치서브에서 지원할 수 있다. 토치서브는 우분투 리눅스 또는 맥OS에서 자바11이 필요하다. ciokr@idg.co.kr

 
추천 테크라이브러리

회사명:한국IDG 제호: ITWorld 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아00743 등록일자 : 2009년 01월 19일

발행인 : 박형미 편집인 : 박재곤 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2022 International Data Group. All rights reserved.