Marking known/expected test failures and add extra information
I maintainer di solito rispondono entro 1 giorno
@helen-fornazier ci sta già lavorando.
Dal 27/11/2024.
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
Hello,
I'd like to discuss potential strategies for marking specific test failures as known or expected. This arises from some dmesg test failures observed on grunt and zork Chromebooks, where the emerg test case is failing due to No irq handler for vector errors being reported in the logs (as expected) - see e.g.: https://lava.collabora.dev/scheduler/job/13063812#results_468058486. This issue is known and harmless on these boards. I'm wondering if it would make sense to have a way to encode this information so that users can easily know about it and act accordingly (e.g. focus on other types of errors or filter out specific test failures if needed).
In the specific case of the dmesg test mentioned, I don't see a sane way to report the exact error log lines from the LAVA test case itself. So I guess this may require users to manually tag failures or provide additional information after they are reported.
I suspect there could be other instances where tests could benefit from manually added debug information (e.g. flakey tests); this issue is to discuss whether any actions should be taken to address these scenarios and explore potential solutions.
cc: @nuclearcat
- Lingua principale
- Python
- Stelle
- 120
- Fork
- 108
- Merge medio
- 1g 12h
- PR unite (30g)
- 21
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di kernelci/kernelci-core
-
good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
kernelci/kernelci-core#2591 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 25/100
kernelci/kernelci-core#3234 ·
I maintainer di solito rispondono entro 1 giorno
-
good first issue techdebt
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
kernelci/kernelci-core#3197 · 3 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
chromeos techdebt
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
kernelci/kernelci-core#3196 ·
I maintainer di solito rispondono entro 1 giorno
-
kubernetes runners missing logs and test naming wrongForse di nuovo libera @nuclearcat l’ha presa 68 giorni fa e non c’è nessuna pull request aperta. Aperta
kernelci/kernelci-core#3170 · 2 commenti · 1 reazione · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di kernelci/kernelci-core
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 3 giorni
-
Negation with "not" and "no" is ignored during sentiment analysisForse già presa @vivek-3728 l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
techcsispit/mess-mood#11 · 1 commento ·
-
changelog investigate
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
ramnes/notion-sdk-py#408 ·
-
good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 83/100
btclib-org/btclib-wallet#267 ·
I maintainer di solito rispondono entro 1 giorno
-
good first issue tech-debt
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
knnmelprop/YAADO#111 ·