문제 정의 (왜 하는지?)

• PyTorch 모델을 Serving하기 위해

해결 아이디어

• Docker 사용하기

하나의 서버에 하나의 모델만 서빙하기 때문에.. 또한 AWS 프리티어로 사양이..

• Kubernetes 사용하기

사양문제..

• Tensorflow serving / Onnx Serving

Pytorch를 사용하기 때문에 모델을 변경해야하는 부분들이 필요

• TorchServing

비교적 최근에 나온 모듈로 pytorch를 손쉽게 서비할 수 있음

진행 상황

1) AWS 서버

• Ubuntu 18.04 버전
• t2.micro ( CPU 1, RAM 1Gib )

2) TorchServe 설치