Out-of-memory crashes after sampling completes with high `tune` despite `save_warmup = False`

Aperta
#233 2 commenti 1 reazione 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
25/100
Tipo di issue
Bug
Chiarezza
Abbastanza chiara
Stato di attività
Ferma
Stack tecnologico
python

Direzione di ricerca

Non vengono indicati file, test o punti di ingresso. Inizia tracciando come vengono eliminati i dati di warmup e dove i dati Arrow vengono convertiti in InferenceData; quindi riproduci il problema con un tune elevato, draws fissi e save_warmup=False; il lavoro è completato quando l’esecuzione termina senza un crash per esaurimento della memoria e un test di regressione copre questo comportamento.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

I have a model that returns samples ok with low values of tune, but when I bump to high values, python crashes just as the sampling completes, with my OS (Ubuntu) logs showing an OOM event. I don't need the warmup samples, so I tried setting save_warmup = False, but no dice.

Is it possible that the dropping of the warmup data is occurring unnecessarily late, ex. after conversion from arrow to InferenceData? That's the only thing I can think of to explain why higher values for tune cause crashes despite equal values for draws.

Lingua principale
Python
Stelle
214
Fork
30
Merge medio
3h 50m
PR unite (30g)
1

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di pymc-devs/nutpie

Tutte le issue di pymc-devs/nutpie

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.