kubeflow/sdk

KEP-107: Improve Spark E2E Robustness

Ouverte

#611 ouverte le 19 juil. 2026

Voir sur GitHubGuide contributeur
 (7 commentaires) (0 réaction) (1 personne assignée)Python (196 forks)auto 404
area/sparkarea/testinggood first issuehelp wantedkind/feature

Métriques du dépôt

Stars
 (124 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

What you would like to be added?

The goal of this issue is to make the Spark E2E tests more robust and align closely with upstream artifacts to enable better detection of drifts.

The following is a consolidated list of target end states:

  • Remove the vendored SparkConnect CRD and pull all the latest upstream artifacts to test Spark SDK against the latest version.
  • Remove the default service account from the RBAC.
  • Enable "cluster watcher" support for both SparkConnect and SparkApplication.

Why is this needed?

Test robustness ensures the Spark package works in realistic production settings.

Love this feature?

Give it a 👍 We prioritize the features with most 👍

Guide contributeur

Direction de recherche
Concentrez vous sur le tirage des artefacts Spark en amont pour remplacer le CRD fourni par le fournisseur, puis supprimez le compte de service par défaut et activez la prise en charge du cluster watcher pour SparkConnect et SparkApplication.
Stack technique
pythonsparkkubernetes
Domaine
backendtestinginfrastructure
Type d'issue
Test
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonKubernetesSpark
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60