kubeflow/sdk

KEP-107: Improve Spark E2E Robustness

Aberta

#611 aberto em 19 de jul. de 2026

Ver no GitHubGuia do colaborador
 (7 comentários) (0 reação) (1 responsável)Python (196 forks)auto 404
area/sparkarea/testinggood first issuehelp wantedkind/feature

Métricas do repositório

Stars
 (124 estrelas)
Métricas de merge de PR
 (Mesclagem média 12d 14h) (31 fundiu PRs em 30d)

Description

What you would like to be added?

The goal of this issue is to make the Spark E2E tests more robust and align closely with upstream artifacts to enable better detection of drifts.

The following is a consolidated list of target end states:

  • Remove the vendored SparkConnect CRD and pull all the latest upstream artifacts to test Spark SDK against the latest version.
  • Remove the default service account from the RBAC.
  • Enable "cluster watcher" support for both SparkConnect and SparkApplication.

Why is this needed?

Test robustness ensures the Spark package works in realistic production settings.

Love this feature?

Give it a 👍 We prioritize the features with most 👍

Guia do colaborador

Direção de pesquisa
Concentre se em puxar os artefatos Spark upstream para substituir o CRD fornecido pelo fornecedor, depois remova a conta de serviço padrão e habilite o suporte ao cluster watcher tanto para SparkConnect quanto para SparkApplication.
Pilha de tecnologia
pythonsparkkubernetes
Domain
backendtestinginfrastructure
Tipo Issue
Teste
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonKubernetesSpark
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60