dmlc/dgl

Serving DGL models in production

Open

#4,442 建立於 2022年8月21日

在 GitHub 查看
 (1 留言) (0 反應) (0 負責人)Python (2,928 fork)batch import
feature requesthelp wanted

倉庫指標

Star
 (12,665 star)
PR 合併指標
 (30 天內沒有已合併 PR)

描述

Can you share the best practices for serving DGL models in production? (which of the frameworks is preferred/fully supported - torch serve , TensorFlow serving , Kserve or anything kubeflow based , Nvidia Triton .) There are very few resources on the same.

貢獻者指南

研究方向
查閱DGL關於模型服務的文檔，探索官方示例，並比較TorchServe、TensorFlow Serving、KServe、Kubeflow和Nvidia Triton等服務框架。尋找社區討論和基準測試。
技術棧
pythonpytorchtensorflow
領域
backendmachine learning
議題類型
調研
難度面向新貢獻者的預計實作難度，1 表示很小改動，5 表示專家級工作。
3
預計時間有經驗貢獻者完成調查、實作、測試並準備 pull request 的粗略時間範圍。
1-3 小時
活動狀態議題目前的可參與程度：新鮮、活躍、陳舊、阻塞或等待維護者輸入。
活躍
清晰度議題是否清楚說明預期改動、驗收標準和下一步。
清晰
前置要求
PythonDGL
新手友善度1-100 的估計分數，表示該議題對首次貢獻者的友善程度。
60