deepspeedai/DeepSpeed

Xem trên GitHub

DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.

Star: 43.1k
Fork: 5k
Issue cho người mới đang mở: 11
Issue đã lập chỉ mục: 1.2k
Merge trung bình: 5 ngày 8 giờ
Pull request đã merge (30 ngày): 120

Ngôn ngữ chính: Python
Giấy phép: Apache-2.0
Lần push lên GitHub gần nhất: 19/9/2026
Lập chỉ mục gần nhất: 20/9/2026
Hướng dẫn đóng góp: Hướng dẫn đóng góp
Quy tắc ứng xử: Quy tắc ứng xử
Label cho người mới: Chưa lập chỉ mục label nào cho người mới

Phù hợp cho người mới Tất cả

Đang mở Tất cả

[REQUEST] Support FusedLion / FusedLamb and Zero++ quantized communication (hpZ / qgZ) on NPU Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeed#8626 · Mở ngày 22/9/2026
Universal checkpoint conversion only knows Adam's state keys, so a Muon checkpoint cannot be converted Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8608 · 1 bình luận · Mở ngày 20/9/2026
[BUG]_prepare_fp32_grad_for_sub_group clears every parameter's gradient once per sub-group Đang mở

bug training

deepspeedai/DeepSpeed#8586 · 1 người được giao · Mở ngày 18/9/2026
init_inference rejects dtype=torch.int8 on every accelerator Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

deepspeedai/DeepSpeed#8577 · Mở ngày 18/9/2026
[BUG] Runtime configuration validation is bypassed under python -O Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100

deepspeedai/DeepSpeed#8572 · 1 bình luận · Mở ngày 17/9/2026
2 tests fail: assert isinstance(model.llm[0], DistributedAttention) Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100

deepspeedai/DeepSpeed#8554 · Mở ngày 16/9/2026
[BUG] AutoTP checkpoint load raises AttributeError on a model containing nn.InstanceNorm1d Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100

deepspeedai/DeepSpeed#8514 · Mở ngày 14/9/2026
[BUG] Python checkpoint writers fail to reload full ZeRO-3 state with default torch.load Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

deepspeedai/DeepSpeed#8500 · Mở ngày 13/9/2026
[BUG] ZeRO-3 ignores checkpoint tag when load_optimizer_states=False Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 78/100

deepspeedai/DeepSpeed#8499 · Mở ngày 13/9/2026
Deprecate unused DeepSpeed features Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

deepspeedai/DeepSpeed#8489 · 6 bình luận · Mở ngày 11/9/2026
[BUG] Memory leak in loss backward when enabled torch activation checkpoint & zero3 & single-model-multi-branch network Đang mở

bug training

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

deepspeedai/DeepSpeed#8481 · Mở ngày 11/9/2026
Can't install in Python 3.14.6 with GCC Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8480 · 1 bình luận · Mở ngày 11/9/2026
[Bug] AutoEP FP32 gradient clipping averages norms across ranks with different expert ownership Đang mở

bug training

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 32/100

deepspeedai/DeepSpeed#8475 · 1 bình luận · Mở ngày 10/9/2026
[RFC] Enable Correct and High-Performance Muon Optimizer under ZeRO CPU Offload (Stage 1/2/3) Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeed#8463 · 1 reaction · Mở ngày 8/9/2026
[FEATURE] Align decode fronts and trim dead zones in continuous batching Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8462 · Mở ngày 8/9/2026
[BUG] Do not silently ignore use_shared_prefill with continuous batching Đang mở

bug training

deepspeedai/DeepSpeed#8458 · 2 bình luận · 1 người được giao · Mở ngày 8/9/2026
AutoTP loads module weights by hardcoded class name, so 219 of 233 transformers norm classes are silently left on meta Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

deepspeedai/DeepSpeed#8447 · Mở ngày 6/9/2026
Default gradient_clipping divides every Muon update by its own norm, shrinking the step by a model-sized factor Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8439 · 1 bình luận · Mở ngày 6/9/2026
Muon under AutoTP orthogonalizes each shard, so the update depends on the TP degree Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8437 · 1 bình luận · Mở ngày 6/9/2026
ZeRO skips the optimizer step on gradient overflow without logging anything Đang mở

deepspeedai/DeepSpeed#8415 · 1 reaction · 1 người được giao · Mở ngày 4/9/2026
[BUG] Curriculum data sampler checkpoints the global numpy RNG, not its own, so resume replays the sampling stream Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100

deepspeedai/DeepSpeed#8405 · Mở ngày 3/9/2026
ZeRO-3 HybridMegatron QKV layout mutations are not persisted Đang mở

Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 74/100

deepspeedai/DeepSpeed#8391 · Mở ngày 2/9/2026
[BUG] set_norm_for_param_grad_in_gpu's grad_accum fallback is dead in both accumulation modes Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100

deepspeedai/DeepSpeed#8371 · Mở ngày 31/8/2026
[Feature] Per-Head Muon: per-head Newton-Schulz orthogonalization for attention projections Đang mở

enhancement training

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 45/100

deepspeedai/DeepSpeed#8367 · 5 bình luận · 4 reaction · Mở ngày 30/8/2026
ZeRO-1/2 average_tensor serializes backward compute behind the preceding reduction Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8364 · 4 bình luận · Mở ngày 30/8/2026
[BUG]Unfreed parameters and unnecessary peak memory in autoEP Đang mở

bug training

deepspeedai/DeepSpeed#8353 · 1 bình luận · 1 người được giao · Mở ngày 29/8/2026
[BUG] DeepSpeed generation fails with a CPU/CUDA device mismatch when keep-module-on-host is enabled Đang mở

bug inference

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

deepspeedai/DeepSpeed#8338 · 1 bình luận · Mở ngày 28/8/2026
HybridEngineRollout: synchronized early stopping across ZeRO-3 data-parallel ranks Đang mở

deepspeedai/DeepSpeed#8321 · 5 bình luận · 1 người được giao · Mở ngày 26/8/2026
[REQUEST] XPU: register native pinned host memory with the device runtime (follow-up to #8283) Đang mở

deepspeedai/DeepSpeed#8315 · 1 bình luận · 2 reaction · 1 người được giao · Mở ngày 25/8/2026
HF transformers main injects 'embedding_rowwise' into tp_plan for tied-embedding models; AutoTP rejects the whole plan Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8290 · 3 bình luận · 1 reaction · Mở ngày 22/8/2026
Define affine IR for checkpointing Đang mở

enhancement

deepspeedai/DeepSpeed#8252 · 16 bình luận · 1 reaction · 1 người được giao · Mở ngày 14/8/2026
[RFC] Universal checkpoint: non-semantic per-parameter geometric shard map Đang mở

deepspeedai/DeepSpeed#8230 · 10 bình luận · 1 reaction · 1 người được giao · Mở ngày 7/8/2026
[REQUEST] OPSD Profile and improve HybridEngine rollout performance Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 45/100

deepspeedai/DeepSpeed#8197 · 17 bình luận · 1 reaction · Mở ngày 31/7/2026
[REQUEST] Dynamic/Adaptive Prefetching Window for ZeRO-3 Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8193 · 3 bình luận · 1 reaction · Mở ngày 29/7/2026
[RFC] Support sharding LM heads and adopting Online Softmax Đang mở

enhancement

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeed#8173 · 5 bình luận · 2 reaction · Mở ngày 24/7/2026
Add logging support for better observability Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8140 · 1 bình luận · Mở ngày 14/7/2026
DeepSpeed - Q3 Roadmap Đang mở

deepspeedai/DeepSpeed#8104 · 6 bình luận · 9 reaction · 5 người được giao · Mở ngày 30/6/2026
Consider adding a changelog to track version history Đang mở

Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 68/100

deepspeedai/DeepSpeed#8101 · 1 bình luận · Mở ngày 30/6/2026
Exception type too broad in error handling Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

deepspeedai/DeepSpeed#8093 · 1 bình luận · Mở ngày 26/6/2026
zero.Init partitioning of large fused MoE-expert tensors spikes a single GPU (transient full materialization) -> OOM during load even when the sharded model fits Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 45/100

deepspeedai/DeepSpeed#8085 · 4 bình luận · Mở ngày 22/6/2026
Add type hints to public API functions Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#8074 · 1 bình luận · Mở ngày 17/6/2026
EvoformerAttention should auto-detect CUTLASS instead of requiring CUTLASS_PATH Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

deepspeedai/DeepSpeed#8001 · 1 bình luận · Mở ngày 8/5/2026
[BUG]Loss connection to ranks Đang mở

bug training

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

deepspeedai/DeepSpeed#7991 · 4 bình luận · Mở ngày 4/5/2026
[REQUEST] Add Trackio as a New Backend for Experiment Monitoring Đang mở

enhancement

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

deepspeedai/DeepSpeed#7964 · 4 bình luận · Mở ngày 9/4/2026
[BUG] crashed training gpt model using 3d parallelization Đang mở

bug training

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#7922 · 2 bình luận · Mở ngày 25/3/2026
[REQUEST] Put NVTX instrumentation in its own domain (and potentially categories) Đang mở

enhancement

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

deepspeedai/DeepSpeed#7912 · 3 bình luận · Mở ngày 18/3/2026
Trouble running tests: Failed to find precompiled modules Đang mở

Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 74/100

deepspeedai/DeepSpeed#7909 · 1 bình luận · 1 reaction · Mở ngày 17/3/2026
Deepspeed zero 3 seems to save empty adapter_model.safetensors Đang mở

Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 28/100

deepspeedai/DeepSpeed#7900 · 1 bình luận · Mở ngày 13/3/2026
[RFC] SDMA-Based Collective Communication Backend for ZeRO-3 on AMD GPUs Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

deepspeedai/DeepSpeed#7884 · 10 bình luận · 4 reaction · Mở ngày 4/3/2026
[Roadmap] DeepSpeed Roadmap Q2 2026 Đang mở

Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

deepspeedai/DeepSpeed#7861 · 4 bình luận · 5 reaction · Mở ngày 19/2/2026

Đang hiển thị 100 mục mới nhất

Trang này chỉ liệt kê những gì được lập chỉ mục gần đây. Bộ lọc nâng cao có toàn bộ kho, thu hẹp theo ngôn ngữ, độ khó và thời lượng.

Mở bộ lọc nâng cao

deepspeedai/DeepSpeed

Đang hiển thị 100 mục mới nhất

Nhận issue mới trong hộp thư của bạn