apache/beam

Test Spark streaming pipelines with maxRecordsPerBatch

Open

#18,354 创建于 2022年6月3日

在 GitHub 查看
 (0 评论) (0 反应) (0 负责人)Java (4,097 fork)batch import
P3good first issuerunnerssparktests

仓库指标

Star
 (7,313 star)
PR 合并指标
 (平均合并 6天) (30 天内合并 243 个 PR)

描述

Add tests for Spark streaming pipelines with maxRecordsPerBatch configured in SparkPipelineOptions.

Imported from Jira BEAM-2127. Original Jira may contain additional context. Reported by: aviemzur.

贡献者指南

研究方向
查看Beam代码库中现有的Spark streaming测试，并添加一个在SparkPipelineOptions中配置maxRecordsPerBatch的测试。
技术栈
java
领域
data
议题类型
测试
难度面向新贡献者的预计实现难度，1 表示很小改动，5 表示专家级工作。
2
预计时间有经验贡献者完成调查、实现、测试并准备 pull request 的粗略时间范围。
1-3 小时
活动状态议题当前的可参与程度：新鲜、活跃、陈旧、阻塞或等待维护者输入。
新近可参与
清晰度议题是否清楚说明期望改动、验收标准和下一步。
清晰
前置要求
java
新手友好度1-100 的估计分数，表示该议题对首次贡献者的友好程度。
75