kubeflow/sdk

KEP-107: Improve Spark E2E Robustness

Aperta

#611 aperta il 19 lug 2026

Vedi su GitHubGuida contributor
 (7 commenti) (0 reazioni) (1 assegnatario)Python (196 fork)auto 404
area/sparkarea/testinggood first issuehelp wantedkind/feature

Metriche repository

Star
 (124 stelle)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

What you would like to be added?

The goal of this issue is to make the Spark E2E tests more robust and align closely with upstream artifacts to enable better detection of drifts.

The following is a consolidated list of target end states:

  • Remove the vendored SparkConnect CRD and pull all the latest upstream artifacts to test Spark SDK against the latest version.
  • Remove the default service account from the RBAC.
  • Enable "cluster watcher" support for both SparkConnect and SparkApplication.

Why is this needed?

Test robustness ensures the Spark package works in realistic production settings.

Love this feature?

Give it a 👍 We prioritize the features with most 👍

Guida contributor

Direzione di ricerca
Concentrati sul recupero degli artefatti Spark upstream per sostituire il CRD fornito dal fornitore, quindi rimuovi l'account di servizio predefinito e abilita il supporto del cluster watcher sia per SparkConnect che per SparkApplication.
Tech stack
pythonsparkkubernetes
Dominio
backendtestinginfrastructure
Tipo issue
Test
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonKubernetesSpark
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60