[Code scan] Downstream aggregation drops domains instead of incomplete models
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 74/100
Direzione di ricerca
Inizia da lambench/metrics/vishelper/metrics_calculations.py alle righe 152-164 e traccia come domain_results viene aggregato e filtrato. Aggiungi il test di regressione descritto nell'issue, usando un modello a cui manca un singolo dominio; il lavoro è completato quando i modelli incompleti vengono gestiti secondo la policy documentata scelta senza eliminare globalmente quel dominio.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
This issue was found by a Codex global repository scan of tracked non-test files at commit 8c93925cb10b401b2b83c738bd9263fd74474468.
Relevant code
Impact
domain_results has models as rows and domains as columns, but dropna(axis=1) removes columns. If one model is missing a downstream domain, that domain is dropped for every model, and the incomplete model can still be ranked using the remaining domains.
This changes leaderboard scores by removing valid domains globally instead of excluding or penalizing the incomplete model.
Suggested fix
Make missing-domain policy explicit. For example, compute domain means with skipna=False and then dropna(axis=0) for incomplete models, or apply a documented penalty to missing domains. Add a regression test with one model missing a single domain.
- Lingua principale
- Python
- Stelle
- 20
- Fork
- 11
- Merge medio
- 1m
- PR unite (30g)
- 3
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di deepmodeling/LAMBench
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 86/100
deepmodeling/LAMBench#443 ·
-
[Code scan] Missing NVE systems crash stability scoring instead of receiving the failure penaltyAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
deepmodeling/LAMBench#440 ·
-
Difficoltà 2/5 Mezza giornata Idoneità per principianti 74/100
deepmodeling/LAMBench#439 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
deepmodeling/LAMBench#436 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
deepmodeling/LAMBench#435 ·
Tutte le issue di deepmodeling/LAMBench
Issue simili
-
Link Checker ReportApertaautomated issue linkchecker report
Difficoltà 2/5 1-3 ore Idoneità per principianti 66/100
QuantEcon/lecture-python.myst#1098 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
podly-pure-podcasts/podly_pure_podcasts#279 ·
I maintainer di solito rispondono entro 1 giorno
-
New template proposal: ljpApertatemplate-proposal
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 82/100
OpenShot/openshot-qt#6230 ·
I maintainer di solito rispondono entro 1 giorno