apache/beam

Test Spark streaming pipelines with maxRecordsPerBatch

Ouverte

#18 354 ouverte le 3 juin 2022

Voir sur GitHubGuide contributeur
 (0 commentaire) (0 réaction) (0 personne assignée)Java (4 097 forks)batch import
P3good first issuerunnerssparktests

Métriques du dépôt

Stars
 (7 313 étoiles)
Métriques de merge PR
 (Métriques PR en attente)

Description

Add tests for Spark streaming pipelines with maxRecordsPerBatch configured in SparkPipelineOptions.

Imported from Jira BEAM-2127. Original Jira may contain additional context. Reported by: aviemzur.

Guide contributeur

Direction de recherche
Examinez les tests de streaming Spark existants dans le code de Beam et ajoutez un test qui configure maxRecordsPerBatch dans SparkPipelineOptions.
Stack technique
java
Domaine
data
Type d'issue
Test
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
java
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
75