Ignore prediction models that have been added after acquisiton started
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 30/100
Direzione di ricerca
Inizia leggendo src/smartem_backend/predictions/update.py e src/smartem_backend/cli/initialise_prediction_model_weights.py, quindi segui i punti di chiamata di seeding e prior_update in consumer.py. Risolvi la semantica del blocco del modello di acquisizione e della normalizzazione dei pesi prima dell’implementazione; il lavoro è completo quando i modelli registrati in ritardo non possono interrompere gli aggiornamenti di grid in corso e l’invariante dei pesi previsto viene preservato.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Needs discussion with Dan before implementation - the correct locking semantics are a
product decision, not just a code fix.
Status
Confirmed present in smartem-decisions@main, and more severe than this issue originally
described. The original note framed this as future-proofing ("need to think about this");
in fact registering a new prediction model breaks prediction updates for every in-flight
grid, via an unhandled exception.
What actually happens
-
Per-grid model weights are seeded by
initialise_all_models_for_grid
(cli/initialise_prediction_model_weights.py:23), which is called from exactly one place:
consumer.py:180, on grid creation only. It seeds a row per (grid, model, metric) for
the models that exist at that moment, withdefault_weight = 1 / len(models). -
register_quality_prediction_model.pycontains no grid or weight logic at all. Registering
a new model does not backfill weights for grids that already exist. -
predictions/update.py:46re-reads the model list on every prior update, unfiltered:model_rows = (await session.execute(select(QualityPredictionModel))).scalars().all()There is no grid or acquisition scoping.
-
For each model it then requires a per-grid weight row (
predictions/update.py:64):.scalars().one()
So for any grid created before the new model was registered, the next micrograph hits a model
with no weight row and .one() raises NoResultFound. This is unhandled, and prior_update
is called directly from the RabbitMQ consumer's motion-correction, CTF and particle-picking
handlers (consumer.py:451, :520, :583).
Because there is a CLI whose entire purpose is registering a model, this is a routine
operational action rather than an exotic edge case.
Not yet established: what the consumer does with the exception once raised - whether it
nacks, requeues, or drops the message depends on the aio-pika wrapper, which has not been
traced. The unhandled raise in the live event path is confirmed; the blast radius beyond that
point is not.
Secondary defect
default_weight = 1 / len(models) is computed once at grid initialisation. Even if a weight
row were backfilled for a late-registered model, the "weights sum to 1" invariant across a
grid's models would be broken. Any fix needs to state what should happen to normalisation.
Direction
The original instinct still stands: lock the set of prediction models for the lifetime of an
acquisition and have the update path resolve models through that locked set rather than
querying all registered models globally.
Open questions for that discussion:
- Where does the lock live - a join table per grid/acquisition, or derived from the existence
of the seeded weight rows (which would makeupdate.pyiterate weights rather than models)? - What should happen to a model registered mid-session: ignored for in-flight acquisitions
(implied by this issue's title) or backfilled at1/nwith renormalisation? - Should the update path fail loudly or skip gracefully when a weight row is missing? Today it
fails loudly by accident rather than by design.
Deriving the model set from the seeded weight rows is the smallest change and would fix the
crash and the scoping in one move, but it makes the lock implicit; worth weighing against an
explicit table.
Code references
src/smartem_backend/predictions/update.py:46- unfiltered global model querysrc/smartem_backend/predictions/update.py:64-.one()on the per-grid weight rowsrc/smartem_backend/cli/initialise_prediction_model_weights.py:23- grid-creation seedingsrc/smartem_backend/consumer.py:180- sole caller of the seedingsrc/smartem_backend/consumer.py:451,:520,:583-prior_updatecall sites
- Lingua principale
- TypeScript
- Stelle
- 0
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di DiamondLightSource/smartem-devtools
-
security
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
-
Dependency DashboardAperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100
-
research security
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
devops research smartem-agent
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
-
Make Claude's project knowledge portable: private memory/transcripts, derived public AGENTS.mdApertaenhancement smartem-devtools:claude
Difficoltà 5/5 Più di una settimana Idoneità per principianti 45/100
Tutte le issue di DiamondLightSource/smartem-devtools
Issue simili
-
effort:S priority:P2
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
cameri/nostream#811 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
dam-agents/dam#4562 ·
I maintainer di solito rispondono entro 1 giorno
-
bug p3 triaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
I maintainer di solito rispondono entro 1 giorno
-
bug javascript P2-medium python release:v3.1
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
adrirubio/claude-deck#546 ·
I maintainer di solito rispondono entro 1 giorno