Add tests for expected number of evals submission and measured times
@priyakasimbeg ci sta già lavorando.
Dal 25/7/2023.
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
Description
Add CI test that checks if reported times and number of evals are inline with expectations.
For each submission we report:
- total wall clock time
- submission time
- eval time
- logging time
- number of evals
We should add the following tests on at least 1 workload (probably mnist).
- We should check that submission_time + eval_time + logging time ~ total _wallclock_time.
- We should check that the number of evals is roughly equal to total_submission_time // eval_period
- Lingua principale
- Python
- Stelle
- 425
- Fork
- 80
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di mlcommons/algorithmic-efficiency
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 38/100
mlcommons/algorithmic-efficiency#924 · 5 commenti ·
-
Anima: live PH monitoring in conversational agent — overfitting detection every 50 interactionsAperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 20/100
-
Topological overfitting detection: H0 gap catches overfitting before accuracy diverges (r=0.998)Aperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100
Tutte le issue di mlcommons/algorithmic-efficiency
Issue simili
-
documentation
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
ianktoo/project-monitor#14 ·
-
A wrong descriptor checksum is refused with the right one, also for an xprv or WIF descriptorApertasecurity
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
btclib-org/btclib-wallet#478 ·
I maintainer di solito rispondono entro 1 giorno
-
security
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
btclib-org/btclib#2727 ·
I maintainer di solito rispondono entro 1 giorno
-
good first issue lead variant:container
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
radialmonster/orf-cleanroom#10 ·
I maintainer di solito rispondono entro 1 giorno
-
gdsa opencode: keep-alive cleanup trap fails with 'keepalive_pid: unbound variable'Forse già presa @darribas l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100