Idiomatic multi-gpu usage
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Anfängerfreundlichkeit
- 25/100
- Issue-Typ
- Bug
- Klarheit
- Muss geklärt werden
- Aktivitätsstatus
- Veraltet
- Tech-Stack
- python, pytorch
- Bereich
- computer-vision, machine-learning
Rechercherichtung
Das Issue nennt keine Repository-Dateien oder Tests. Beginne damit, das gezeigte PyTorch-, CuPy- und nvImageCodec-Multi-GPU-Snippet zu reproduzieren, und untersuche anschließend, wie Encoder ein Gerät auswählt. Als erledigt gilt eine dokumentierte, funktionierende Nutzungsmöglichkeit, die Tensoren auf der vorgesehenen GPU hält und den gemeldeten Core Dump vermeidet.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Describe the question.
I'm trying to utilize this library in multi-gpu torch settings and so far I'm getting no luck with frequent core dumped error, that doesn't tell me much.
my current approach is this (LLM generated):
dev_idx = _torch.cuda.current_device() if _torch.cuda.is_available() else 0
with cp.cuda.Device(dev_idx):
encoder = nvimgcodec.Encoder()
output_path = frame_dir / f"{to_stem(name)}.tiff"
gpu_arr = cp.asarray(result.cpu())
encoder.write(str(output_path), gpu_arr)
# Release GPU memory retained by CuPy's pool to avoid OOM across concurrent saves
try:
cp.get_default_memory_pool().free_all_blocks()
except Exception:
pass
from nvidia-smi I see that most of the memory is being allocated on GPU 0 and it feels like nvImageEncoder is not explicitly aware of what GPU it is expected to run on. Can you provide example on how to utilize it and keep tensors on GPU?
Check for duplicates
- I have searched the open bugs/issues and have found no duplicates for this bug report
- Vorherrschende Sprache
- Jupyter Notebook
- Sterne
- 164
- Forks
- 26
- Ø Merge
- 27 Min.
- Gemergte PRs (30 T.)
- 1
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Keine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus NVIDIA/nvImageCodec
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 79/100
NVIDIA/nvImageCodec#65 · 1 Kommentar ·
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 72/100
NVIDIA/nvImageCodec#66 · 1 Kommentar ·
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 38/100
NVIDIA/nvImageCodec#64 ·
-
nvjpeg2k error 3 (Bad jpeg) on valid JPEG 2000 aerial photos that OpenJPEG and ffmpeg decode identicallyEvtl. vergeben @mkepa-nv hat das vor 6 Tagen übernommen. Offenbug
NVIDIA/nvImageCodec#63 · 2 Kommentare · 1 zugewiesene Person ·
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 8/100
NVIDIA/nvImageCodec#60 ·
Alle Issues in NVIDIA/nvImageCodec
Ähnliche Issues
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
Stirling-Tools/Stirling-PDF#8875 · 1 Reaktion ·
Maintainer antworten meist innerhalb von 2 Tagen
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
Maintainer antworten meist innerhalb von 1 Tag
-
COCO crowd annotations (iscrowd=1) are counted as ground truth, lowering detection recall and APOffen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
JdeRobot/PerceptionMetrics#681 ·
Maintainer antworten meist innerhalb von 1 Tag
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
opencv/opencv#30744 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 Unter einer Stunde Anfängerfreundlichkeit 85/100
Maintainer antworten meist innerhalb von 2 Tagen