FLASK1 Flask + Docker + PyTorch로 Model serving 하기 첫 회사에서 과제로 Flask와 Docker로 모델 배포를 하고 성능 체크를 맡게 되었다. 블로그 첫 게시글로 오늘 했던 과정을 적어 볼 생각이다. Docker를 이용해 필요한 패키지와 모듈 준비하기 우선 Dockerfile을 이용하여 필요한 패키지를 묶어서 이미지화 하기로 했다. 기반이 될 이미지는 CUDA 11.1 버전을 사용하는 PyTorch 1.8.1 (CuDNN은 8.0이였다.) 거기에 필요한 것은 Flask와 request 모듈이 필요했기 때문에 이 두 모듈은 requirements.txt에 넣어 주었다. #Dockerfile FROM pytorch/pytorch:1.8.1-cuda11.1-cudnn8-devel MAINTAINER [NAME] [E-MAIL] WORKDIR /workspace.. 2023. 1. 4. 이전 1 다음
