Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

Better handle failed processing jobs when terminated by cluster

Aperta
  • Qualcosa non va?
#289 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
35/100
Tipo di issue
Bug
Chiarezza
Da chiarire
Stato di attività
Ferma
Stack tecnologico
python
Ambito
backend, distributed-systems

Direzione di ricerca

Non vengono indicati file, test o punti di ingresso. Inizia tracciando il modo in cui i job di rielaborazione ricevono gli aggiornamenti di stato e il modo in cui viene rappresentata la terminazione del cluster; il lavoro è completato quando un job noto viene contrassegnato come non riuscito se il suo job del cluster scompare senza un aggiornamento di stato, invece di rimanere in uno stato di caricamento continuo.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Raised by Mark; this collection has a permanent spinning cog: https://ispyb.diamond.ac.uk/dc/visit/mx37593-40/id/18159036

This corresponds to a reprocessing run that combined several datasets:

Image

The log file shows it terminating in the middle of integration (I assume due to OOM errors):

...
oooooooooooooooooooooooooooooooooo.ooooooooooooooooooooooooo
oooooooooooooooooooooooooooooooooooooooooooooooooooooooooooo
oooooooooooooooooooooooooooooooooooooooooooooooooooooooooooo
oooooooooooooooooooooooooooooooooooooooooooooooooooooooooooo
"o" => good        "%" => ok        "!" => bad rmsd
"O" => overloaded  "#" => many bad  "." => weak
"@" => abandoned
Mosaic spread: 0.413 < 0.413 < 0.413
-------------------- Spotfinding SWEEP2 --------------------
67030 spots found on 3600 images (max 1798 / bin)
              ***
            ******
           *********                       ****
         *************                  *********
*     ******************* ***          *************     ***
** *****************************   ******************** ****
************************************************************
************************************************************
************************************************************
************************************************************
1                         image                         3600
------------------- Autoindexing SWEEP2 --------------------
All possible indexing solutions:
aP  40.40  57.05  77.35 102.77  94.67 100.11
Indexing solution:
aP  40.40  57.05  77.35 102.77  94.67 100.11
-------------------- Integrating SWEEP2 --------------------

possibly we need to have a service that occasionally checks the cluster status for known reprocessing jobs, and marks it as failed if the cluster job has gone away but no status update written?

Lingua principale
Python
Stelle
2
Fork
3
Merge medio
1g 14h
PR unite (30g)
5

Preparare l'ambiente

  • Include un Dockerfile o un file Docker Compose
  • Nessun modello di pull request
  • Nessuna guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di DiamondLightSource/python-dlstbx

Tutte le issue di DiamondLightSource/python-dlstbx

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.