dmlc/dgl

Serving DGL models in production

Open

#4.442 aberto em 21 de ago. de 2022

Ver no GitHub
 (1 comment) (0 reactions) (0 assignees)Python (2.928 forks)batch import
feature requesthelp wanted

Métricas do repositório

Stars
 (12.665 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

Can you share the best practices for serving DGL models in production? (which of the frameworks is preferred/fully supported - torch serve , TensorFlow serving , Kserve or anything kubeflow based , Nvidia Triton .) There are very few resources on the same.

Guia do colaborador

Direção de pesquisa
Revise a documentação do DGL sobre serving de modelos, explore exemplos oficiais e compare frameworks de serving como TorchServe, TensorFlow Serving, KServe, Kubeflow e Nvidia Triton. Procure discussões e benchmarks da comunidade.
Pilha de tecnologia
pythonpytorchtensorflow
Domain
backendmachine learning
Tipo Issue
Pesquisa
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonDGL
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60