pytorch/serve

RuntimeError: CUDA error: no kernel image is available for execution on the device

Open

#1754 aperta il 22 lug 2022

Vedi su GitHub
 (7 commenti) (0 reazioni) (0 assegnatari)Java (790 fork)batch import
help wanted

Metriche repository

Star
 (3844 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

I am deploying a model using torchserve. It was easily deployed on Tesla K80 GPU. But now when i shifted it to newer GPU Nvidia A30. I am getting this error

torch_version: '1.12.0+cu113' cudnn_version: 8302

image

PFA Nvidia-smi Screenshot

image

Guida contributor

Direzione di ricerca
Verifica la capacità di calcolo della Nvidia A30 (sm 80) e assicurati che la versione di PyTorch installata abbia kernel precompilati per quell'architettura. Controlla se la wheel di PyTorch è stata costruita con CUDA 11.6+ che include il supporto per A30. Altrimenti, aggiorna PyTorch a una versione che supporti sm 80 o ricompila dal sorgente con flag appropriati.
Tech stack
pythonpytorch
Dominio
backendinfrastructure
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
55