Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

[BUG in Stable Diffusion inference] There's an error on CUDAGraph when using deepspeed inference. How to fix it?

Aperta
#866 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
35/100
Tipo di issue
Bug
Chiarezza
Da chiarire
Stato di attività
Ferma
Stack tecnologico
python, pytorch
Ambito
machine-learning

Direzione di ricerca

Inizia con l’esempio di inferenza Stable-Diffusion collegato nell’issue, in particolare test-stable-diffusion.py, e riproducilo con il comando deepspeed e le versioni dell’ambiente fornite. Esamina il traceback collegato per determinare perché CUDAGraph non sia disponibile durante l’inferenza; il lavoro è completato quando sono state identificate una causa riproducibile e una correzione verificata o una configurazione compatibile.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

【Repo Link】:
Stable-Diffusion inference

【The Command used to run】:
deepspeed --num_gpus 1 test-stable-diffusion.py

【Envs】:

RTX 3090
deepspeed 0.12.6
torch 1.13.1
diffusers 0.26.1
triton 2.0.0.dev20221202

【Traceback information】:
image

It seems like the CUDAGraph is not available, which confused me a lot.
Please take time to review the issue and give me some feedback. Appreciate!

Lingua principale
Python
Stelle
6.8k
Fork
1.1k
Merge medio
2g 16h
PR unite (30g)
1

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di deepspeedai/DeepSpeedExamples

Tutte le issue di deepspeedai/DeepSpeedExamples

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.