pytorch/serve

RuntimeError: CUDA error: no kernel image is available for execution on the device

Open

#1.754 aberto em 22 de jul. de 2022

Ver no GitHub
 (7 comments) (0 reactions) (0 assignees)Java (790 forks)batch import
help wanted

Métricas do repositório

Stars
 (3.844 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

I am deploying a model using torchserve. It was easily deployed on Tesla K80 GPU. But now when i shifted it to newer GPU Nvidia A30. I am getting this error

torch_version: '1.12.0+cu113' cudnn_version: 8302

image

PFA Nvidia-smi Screenshot

image

Guia do colaborador

Direção de pesquisa
Verifique a capacidade de computação da Nvidia A30 (sm 80) e garanta que a versão do PyTorch instalada tenha kernels pré compilados para essa arquitetura. Verifique se o wheel do PyTorch foi construído com CUDA 11.6+ que inclui suporte para A30. Caso contrário, atualize o PyTorch para uma versão que suporte sm 80 ou recompile a partir da fonte com flags apropriadas.
Pilha de tecnologia
pythonpytorch
Domain
backendinfrastructure
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonGit
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
55