Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Enable Storm dynamic producer batching in the archetype configurations

Đang mở
  • Có gì không ổn?
#2,131 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức phù hợp với người mới
70/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
java
Lĩnh vực
distributed-systems, documentation

Hướng nghiên cứu

Trước tiên, hãy kiểm tra các tệp crawler-conf.yaml được tạo bởi archetype và tài liệu cấu hình, sau đó xác minh các thiết lập batch của producer Storm 3.0 và mối quan hệ của chúng với topology.max.spout.pending. Được xem là hoàn tất khi các archetype sử dụng cấu hình batch động, thận trọng và tài liệu bao quát các thiết lập timeout thông báo, max spout pending, batching của producer và khoảng thời gian flush.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

The crawler-conf.yaml generated by the archetypes leaves Storm's inter-executor batching at its default (topology.producer.batch.size: 1), so no batching happens between the spout, fetcher, parser, indexer and status updater executors.

Storm 3.0 adds topology.producer.batch.dynamic: when enabled together with a topology.producer.batch.size greater than 1, the effective batch size adapts at runtime between 1 and the configured size with AIMD, staying small under light load to keep latency low and growing under sustained load to preserve throughput. That removes the usual objection to batching in a crawl topology, where traffic is bursty and latency to the status updater matters.

Proposal: enable it in the archetype configurations with a conservative batch size below topology.max.spout.pending, and document the Storm topology settings that affect a crawl (topology.message.timeout.secs, topology.max.spout.pending, the producer batch settings and the flush interval), which are currently not covered in the configuration documentation.

Ngôn ngữ chính
Java
Star
1k
Fork
295
Merge trung bình
1 ngày 15 giờ
Pull request đã merge (30 ngày)
71

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của apache/stormcrawler

Tất cả issue của apache/stormcrawler

Issue tương tự

Thêm issue về Java

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.