Feature Request: GPU Support
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 42/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Tranquilla
- Stack tecnologico
- docker, go
- Ambito
- infrastructure, observability
Direzione di ricerca
Inizia valutando il plugin gpu_monitor proposto rispetto a nvidia-smi, NVML e DCGM, incluso il modo in cui viene rilevato un comando nvidia-smi bloccato. Il lavoro si considera completato quando sono stati aggiunti il plugin, il Dockerfile abilitato per GPU e le dipendenze necessarie, con il rilevamento degli errori del dispositivo e delle GPU bloccate; il monitoraggio dei crash a runtime e degli OOM rimane TBD.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
This feature request aims to enhance the Node Problem Detector with the ability to monitor GPUs on nodes and detect issues.
Currently NPD does not have direct visibility into GPUs. However, many workloads are GPU accelerated which makes GPU health an important part of node health. e.g. GPUs are widely used in machine learning training and inference. Especially for LLM training which may using tens of thousands of GPU cards. The entire training cluster should be restarted from previous checkpoint if any one of the GPUs in the cluster is gone bad.
This feature request adds the following capabilities:
-
GPU device monitoring: NPD will collect GPU device info periodically and look for crashes or errors via nvidia-smi/nvml/dcgm tools.
-
GPU device monitoring: NPD will check GPU device info periodically to detect if a GPU is "stuck" (e.g. nvidia-smi command hangs).
-
TBD: GPU runtime monitoring: NPD will check for crashes or OOM issues reported in nvidia logs.
Specifically, this feature request includes:
- Code for the gpu_monitor plugin
- A Dockerfile to build an NPD image with GPU support
- Other dependencies
Looking forward to your feedback!
- Lingua principale
- Go
- Stelle
- 3.5k
- Fork
- 704
- Merge medio
- 12h 21m
- PR unite (30g)
- 3
Preparare l'ambiente
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di kubernetes/node-problem-detector
-
Flag --enable-k8s-exporter=false causes loss of /healthz, /conditions, and /debug/pprof endpointsAperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 56/100
kubernetes/node-problem-detector#1332 ·
-
kind/cleanup sig/node
Difficoltà 5/5 Più di una settimana Idoneità per principianti 45/100
kubernetes/node-problem-detector#1331 ·
-
NPD needs significant unit test coverageForse di nuovo libera @DigitalVeer l’ha presa 63 giorni fa e non c’è nessuna pull request aperta. Apertakind/cleanup sig/node
kubernetes/node-problem-detector#1328 · 2 commenti · 1 assegnatario ·
-
kind/bug
Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100
kubernetes/node-problem-detector#1176 · 7 commenti ·
-
kind/feature lifecycle/frozen
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
kubernetes/node-problem-detector#1112 · 8 commenti ·
Tutte le issue di kubernetes/node-problem-detector
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
rossoctl/context-guru#346 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
prime-radiant-inc/evener#2883 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
gravitational/teleport#69805 ·
I maintainer di solito rispondono entro 11 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
Under Poisson sampling, the `PLDAccountant` composes the inner event both before and after samplingAperta
Difficoltà 2/5 Mezza giornata Idoneità per principianti 78/100
google/differential-privacy#496 ·