dmlc/dgl

Serving DGL models in production

Open

#4442 aperta il 21 ago 2022

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)Python (2928 fork)batch import
feature requesthelp wanted

Metriche repository

Star
 (12.665 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

Can you share the best practices for serving DGL models in production? (which of the frameworks is preferred/fully supported - torch serve , TensorFlow serving , Kserve or anything kubeflow based , Nvidia Triton .) There are very few resources on the same.

Guida contributor

Direzione di ricerca
Rivedere la documentazione DGL sul serving dei modelli, esplorare gli esempi ufficiali e confrontare framework di serving come TorchServe, TensorFlow Serving, KServe, Kubeflow e Nvidia Triton. Cerca discussioni e benchmark nella comunità.
Tech stack
pythonpytorchtensorflow
Dominio
backendmachine learning
Tipo issue
Ricerca
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonDGL
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60