[Roadmap] Payload Transfer in TransferQueue
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- python
- Lĩnh vực
- backend, distributed-systems, networking, performance
Hướng nghiên cứu
Bắt đầu bằng cách chọn một mục trong roadmap chưa được đánh dấu và xem xét abstraction Payload Transfer hiện có cùng PR #163. Hãy bình luận trước khi bắt đầu để phối hợp công việc, sau đó xác định phạm vi của mục đã chọn và phương pháp validation. Công việc được xem là hoàn tất khi mục đã chọn được triển khai và tính đúng đắn, độ ổn định hoặc hiệu năng của mục đó được validation phù hợp.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
This roadmap tracks the development of Payload Transfer in TransferQueue. Feedback, discussion, and contributions are welcome.
If you plan to work on an item, please comment below before starting to help coordinate the work and avoid duplication.
Foundation
-
Payload Transfer abstraction and NIXL-UCX backend
Introduce the Payload Transfer abstraction and the initial NIXL-UCX PUT/GET data path, while keeping ZMQ as the control plane and default payload path.
Reliability
- Improve transfer lifecycle management
Safely manage MR, buffers, pending state, and peer metadata across PREPARE, CANCEL, transfer failure, retry, and cleanup paths.
Performance
-
Optimize buffer pooling and memory registration
Reduce buffer allocation and memory registration overhead through better reuse. -
Reduce unnecessary data copies
Remove avoidable copies in the receive path and process data directly from registered buffers where possible. -
Improve payload transfer concurrency
Avoid serializing independent transfers through a single send executor (for example,max_workers=1) when one manager communicates with multiple StorageUnits, and avoid blocking the StorageUnit control worker while waiting for long-running NIXL GET transfers to complete. Preserve transfer lifecycle correctness while allowing concurrent data-plane progress and reducing head-of-line blocking in RL workloads.
Backend Expansion
- Add more Payload Transfer backends
Extend the abstraction to support additional backends such as HIXL.
Validation
- Expand correctness, stability, and performance validation
Cover larger-scale, sustained, and multi-node workloads.
Documentation
- Complete user-facing tutorials and documentation
Add usage guides, configuration examples, and related feature documentation.
Mainline Integration
- Prepare for integration into
main
Move toward mainline integration once the feature is sufficiently stable and validated.
- Ngôn ngữ chính
- Python
- Star
- 168
- Fork
- 56
- Merge trung bình
- 4 ngày 1 giờ
- Pull request đã merge (30 ngày)
- 15
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Ascend/TransferQueue
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Ascend/TransferQueue#194 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[doc] Document the contract of storage-side callables (data_parser, merge_fn) with a tutorialĐang mở
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100
Ascend/TransferQueue#195 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100
Ascend/TransferQueue#188 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
Ascend/TransferQueue#180 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[optim] MooncakeStore read path registers RDMA buffers on every get(), dominating end-to-end timeCó thể làm lại được @weiziyoung đã nhận 39 ngày trước và không có pull request nào đang mở. Đang mởenhancement
Ascend/TransferQueue#169 · 3 bình luận · 1 reaction · 2 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của Ascend/TransferQueue
Issue tương tự
-
Project submission:Đang mở
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 72/100
slavakurilyak/awesome-ai-agents#845 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
tests: pin that the atomic writers in utils/paths.py stage the temporary file in the target's directoryCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mởdifficulty:2 enhancement good first issue
Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 92/100
MakazhanAlpamys/Soup#2178 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[BUG] dcg.waggr permutation p-values are folded twice, so near-zero scores get the smallest p-valuesĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
scverse/rapids-singlecell#854 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Slang input: int8_t4_packed and uint8_t4_packed are copied into CrossGLCó thể đã có người làm @ninglinLiu đã nhận hôm nay. Đang mởarea:frontend backend:slang bug direction:input
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
Maintainer thường phản hồi trong vòng 1 ngày
-
random_elements(unique=True) on an OrderedDict: ZeroDivisionError once only zero weights remain, AssertionError with use_weighting=FalseCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 85/100
Maintainer thường phản hồi trong vòng 13 ngày