sji

  • 홈
  • 태그
  • 방명록

deeplearning 1

딥러닝 모델의 API화 (AWS lambda)

딥러닝 모델 (pytorch, keras, ...) 개발을 끝내고, 실 서비스를 위한 API화를 할 때 이전 까지 나는 보통 flask/gunicorn으로 감싸서 도커화 한 이후에 쿠버네티스에 띄우든, 독립된 서버에 띄우든 하는 방식을 생각해왔다. 이 때, AWS Lambda(람다)를 이용하면, API 서버를 직접 작성할 필요 없고, 특정 형식을 따르는 핸들러만 만들어 업로드하면 된다. (물론 자잘한 config가 필요하긴 함) API 서버 구현에서의 복잡도를 줄여주는 것 말고도 아마존웹서비스 람다 하면, 서비스 스케일 조정에 있어 매우 유연하다는 점을 빠뜨릴 수 없다. 어쨌든, 모델 및 예측 함수를 람다에 올리는 방법은 다양하다. 1. serverless 프레임워크를 이용 2. AWS의 sam(serv..

http&server 2021.01.27
1
더보기
  • 분류 전체보기 (87)
    • intro. (0)
    • DL&ML (38)
      • concept (19)
      • papers (9)
      • code.data.tips (10)
    • http&server (7)
    • dist. system (6)
    • docker (5)
    • algorithm (24)
    • design pattern (1)
    • architecture (1)
    • trouble shooting (3)
    • better way (1)
    • problems (0)

Tag

string, docker-compose, Zookeeper, stack, Dynamic Programming, Graph, MLE, tree, queue, flask, Docker, seq2seq, React Native, Likelihood, gunicorn, nginx, dp, summarization, gaussian mixture, CrossEntropy,

최근글과 인기글

  • 최근글
  • 인기글
250x250

Calendar

«   2026/01   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Designed by Tistory.

티스토리툴바