문제 정의

훈련된 Model을 실제 서비스에서 사용하기 위한 Serving 작업

해결 아이디어

• TRADE 모델을 TorchServe를 사용해서 서버에 serving
• Handler 작성
• 모델과 여러 python 파일들을 아카이브(.mar 파일)로 만든 후 사용
• RestAPI로 inference를 json 형태로 날리고, 받는 작업

진행 상황

1. AWS Server에 필요한 파일 업로드

• model.py
• preprocessor.py
• data_utils.py
• slot_meta.json
• pre-trained된 bin 파일