apache/beam

Test Spark streaming pipelines with maxRecordsPerBatch

Offen

#18.354 geöffnet am 03.06.2022

Auf GitHub ansehenContributor Guide
 (0 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Java (4.097 Forks)batch import
P3good first issuerunnerssparktests

Repository-Metriken

Stars
 (7.313 Sterne)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

Add tests for Spark streaming pipelines with maxRecordsPerBatch configured in SparkPipelineOptions.

Imported from Jira BEAM-2127. Original Jira may contain additional context. Reported by: aviemzur.

Contributor Guide

Research-Richtung
Untersuche die vorhandenen Spark Streaming Tests im Beam Code und füge einen Test hinzu, der maxRecordsPerBatch in SparkPipelineOptions konfiguriert.
Tech Stack
java
Domain
data
Issue Type
Test
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Frisch
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
java
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
75