Setup test flakiness monitoring, reporting, and SOP
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Stack tecnologico
- go
- Ambito
- observability, testing-qa
Direzione di ricerca
Inizia esaminando gli strumenti di go-libp2p, incluso ci-flakiness-badge, per determinare cosa può essere adottato per boxo. Definisci il workflow di reporting e la SOP per identificare i test più flaky, misurare le tendenze nel tempo e documentare come vengono gestiti i test flaky; nell’issue non vengono nominati file o test.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Done Criteria
We have data insights showing our top flaky tests, and we can quantify how this is trending with time.
We also have an SOP on how we handle flaky tests. This shouldn't be tribal knowledge or guess work.
Why Important
Flaky tests will doom this endeavor because it will either:
- Delay getting releases out, even when a small change was made in a tiny module OR
- Catch us in the tar pit of relying on human judgement of whether we can merge/release or not. We won't make this judgement correct all the time, and unnecessary bugs will slip out the door.
We want to be able to quickly spot flakiness so we know where to eradicate it.
Notes
go-libp2p has tooling (including a ci-flakiness-badge) that I think we can follow/adopt/use.
- Lingua principale
- Go
- Stelle
- 326
- Fork
- 165
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Nessuna guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di ipfs/boxo
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 46/100
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100
-
need/triage
Difficoltà 5/5 Più di una settimana Idoneità per principianti 38/100
-
dif/medium effort/hours kind/enhancement P3 topic/devexp
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
Issue simili
-
affects-8.5 component/session severity/moderate sig/transaction type/bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
enhancement good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
harvester/harvester#12311 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
verifyrun --bracket-digest --credit: relative --witness is could-not-check, absolute path creditsApertabug effort:s impact:low raised-by:desk risk:low
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
medici-finance/assay#6580 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 80/100
blinklabs-io/gouroboros#3026 ·
I maintainer di solito rispondono entro 1 giorno