pytorch/serve

RuntimeError: CUDA error: no kernel image is available for execution on the device

Open

#1,754 opened on 2022年7月22日

GitHub で見る
 (7 comments) (0 reactions) (0 assignees)Java (3,844 stars) (790 forks)batch import
help wanted

説明

I am deploying a model using torchserve. It was easily deployed on Tesla K80 GPU. But now when i shifted it to newer GPU Nvidia A30. I am getting this error

torch_version: '1.12.0+cu113' cudnn_version: 8302

image

PFA Nvidia-smi Screenshot

image

コントリビューターガイド

技術スタック
pythonpytorch
領域
machine learningbackend
Issue 種別
bug
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
4
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
half day
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
stale
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
mostly clear
前提条件
Familiarity with PyTorch and CUDAUnderstanding of GPU compute capabilities
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
30
調査方針
This issue requires investigating the CUDA compute capability of the A30 GPU (8.0) and ensuring the installed PyTorch version (1.12.0+cu113) includes kernels for that architecture. Check the PyTorch documentation on CUDA compute capabilities and possibly reinstall a compatible PyTorch build. Also verify the torchserve configuration for GPU device selection.