[Bug][e2e] Several plugin e2e tests fail on a fresh database because they depend on tables created by other tests
Les mainteneurs répondent en général sous 2 jours
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 35/100
Piste de recherche
Start with e2ehelper.DataFlowTester and the failing TestCalculateCLTimeDataFlow in plugins/dora/e2e/, then check scripts/e2e-test-go-plugins.sh to see the shared-database order. Reproduce on an empty database with go test -count=1 ./plugins/<plugin>/e2e/..., and make each test create the tables its subtasks read or write. Done means every listed package and test passes alone on a fresh database.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Search before asking
- I had searched in the issues and found no similar issues.
What happened
Several Go plugin e2e tests fail when they run on a fresh, empty database, for example when you run one plugin's e2e package or one test on its own:
--- FAIL: TestCalculateCLTimeDataFlow
panic: failed to batch fetch first reviews (500)
Wraps: (3) Error 1146 (42S02): Table 'lake_test.accounts' doesn't exist
e2ehelper.DataFlowTester runs no migrations. A test only has the tables it flushes or imports. Some tests run subtasks that read or write other tables, for example a converter that deletes old board_issues rows, or a query that joins accounts. Those tables exist in CI only because an earlier test created them: scripts/e2e-test-go-plugins.sh runs every plugin's e2e package in go list order on one shared database.
Packages that fail on their own (fresh database per package):
| Package | Missing table | Test |
|---|---|---|
dora/e2e |
accounts |
TestCalculateCLTimeDataFlow (the first review query joins accounts since #9000) |
customize/e2e |
board_issues |
TestImportIssueChangelogDataFlow, TestImportIssueCommitDataFlow |
gitlab/e2e |
issue_labels |
TestGitlabIssueDataFlow |
opsgenie/e2e |
board_issues |
TestIncidentDataFlow |
pagerduty/e2e |
board_issues |
TestIncidentDataFlow |
teambition/e2e |
board_sprints |
TestTeambitionSprints |
Tests that fail with go test -run <Test> (fresh database per test), because an earlier test in the same package created the tables:
customize:TestImportIssueWorklogDataFlowgitlab:TestGitlabMrDataFlow,TestGitlabMrDetailDataFlow,TestGitlabMrNoteDataFlowteambition:TestTeambitionTaskbitbucket:TestCommentDataFlowgithub:TestMilestoneDataFlow,TestPrReviewDataFlowjira:TestEpicDataflow,TestIssueRelationshipDataFlow,TestIssueSubtaskWithoutMappinglinear:TestLinearIssueHistoryDataFlowtapd:TestTapdBugCustomizeDueDate,TestTapdStoryCustomizeDueDate,TestTapdTaskCustomizeDueDate
Some of these tests also read data that an earlier test left behind, not only the table:
- The bitbucket issue comment converter joins
_tool_bitbucket_issues, whichaccount_test.gofills. - The tapd due date tests use the statuses and workitem types that the test before them imports.
Also, the DORA fixture has no bot account, so nothing in the e2e tests covers the bot exclusion added in #9000.
What do you expect to happen
Each e2e package and each e2e test passes on a fresh database. A test sets up every table its subtasks use and does not depend on the order tests run in.
How to reproduce
- Create an empty MySQL database.
- From
backend/:
export E2E_DB_URL='mysql://merico:[email protected]:3306/lake_test?charset=utf8mb4&parseTime=True&loc=UTC'
TZ=UTC go test -count=1 ./plugins/dora/e2e/...
The other packages fail the same way. For the per-test failures, run e.g. go test -count=1 -run '^TestCommentDataFlow$' ./plugins/bitbucket/e2e/ on an empty database.
Anything else
CI passes today only because of the order the tests run in. It would break if the e2e tests ran in parallel or on a database per package.
Version
main (4ad2f66df)
Are you willing to submit PR?
- Yes I am willing to submit a PR!
Code of Conduct
- I agree to follow this project's Code of Conduct
- Langage dominant
- Go
- Étoiles
- 3.2k
- Forks
- 830
- Merge moyen
- 2 j 12 h
- PR mergées (30 j)
- 61
Préparer son environnement
Lance le conteneur de développement du projet dans votre navigateur, avec votre propre compte GitHub.
- Aucun Dockerfile ni fichier Docker Compose
- Propose un modèle de pull request
- Aucun guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de apache/devlake
-
type/bug
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
Les mainteneurs répondent en général sous 2 jours
-
Difficulté 2/5 1-3 heures Accessibilité débutants 60/100
Les mainteneurs répondent en général sous 2 jours
-
type/bug
Difficulté 3/5 Une demi-journée Accessibilité débutants 73/100
Les mainteneurs répondent en général sous 2 jours
-
[Bug][dora] calculateChangeLeadTime loads the whole commits_diffs deployment join into memoryPeut-être pris @mdelacruz-avantio l’a pris aujourd’hui. Ouverte
Difficulté 3/5 1-2 jours Accessibilité débutants 25/100
Les mainteneurs répondent en général sous 2 jours
-
[Refactor][Build] Build the core and all plugins into a single binary by defaultPeut-être pris @klesh l’a pris aujourd’hui. Ouvertecomponent/plugins type/refactor
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
Les mainteneurs répondent en général sous 2 jours
Toutes les issues de apache/devlake
Issues similaires
-
bug converter
Difficulté 2/5 1-3 heures Accessibilité débutants 62/100
grafana/sigma-rule-deployment#435 ·
Les mainteneurs répondent en général sous 1 jour
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
google/go-containerregistry#2491 ·
Les mainteneurs répondent en général sous 1 jour
-
stranded-follow-up sweep trusts any issue whose body carries the marker as the tracking issueOuvertetype:bug
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
nightgauge/nightgauge#2688 ·
Les mainteneurs répondent en général sous 1 jour
-
aiac enhancement
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
Les mainteneurs répondent en général sous 1 jour