deepspeedai/DeepSpeedExamples

登入後關注

在 GitHub 檢視

Example models using DeepSpeed

deepspeedai/DeepSpeedExamples 對新手友好嗎？

近期外部貢獻者向 deepspeedai/DeepSpeedExamples 提交的 PR 還不夠多，暫時無法判斷它們被合併的比例。目前沒有開放的新手友好 issue，下方列出了我們收錄的該儲存庫的其他 issue。

星號: 6.8k
分支: 1.1k
開放的新手 issue: 0
已索引 issue: 300
平均合併: 4 天 22 小時
30 天內合併 PR: 3

主要語言: Python
授權條款: Apache-2.0
最近 GitHub push: 2026年9月27日
最近索引: 2026年9月20日
貢獻指南: 沒有貢獻指南
行為準則: 行為準則
新手標籤: 沒有已索引的新手標籤

如何為 deepspeedai/DeepSpeedExamples 做貢獻

這個專案沒有貢獻指南，可以先讀 README，再看幾個最近合併的 PR，了解變更是怎麼提交的。
讀一下行為準則：它同樣適用於 issue 和 PR，而不只是聊天。
你的貢獻將以該專案的 Apache-2.0 授權條款發布。
追蹤這個儲存庫，有新的新手友好 issue 時就能知道；也可以看看下方的其他 issue。

適合新手全部

未關閉全部

可能已有人在做的 issue 排在最後。全部依時間排序

Compute_rewards in PPO:rewards[j, start:ends[j]][-1] += reward_clip[j] is wrong
未關閉
- 哪裡不對？
難度 2/5 1-3 小時新手友好度 52/100

deepspeedai/DeepSpeedExamples#996 · 2025年12月22日建立
Step1 failed when I run "bash training_scripts/opt/single_gpu/run_1.3b.sh"
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#995 · 2025年12月16日建立
One example, multiple config files
未關閉
- 哪裡不對？
難度 2/5 1-3 小時新手友好度 52/100

deepspeedai/DeepSpeedExamples#989 · 2025年9月8日建立
moe example 404
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#984 · 2025年7月25日建立
Possible to include an example of DeepNVMe + state dict
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 42/100

deepspeedai/DeepSpeedExamples#979 · 6 則留言 · 2025年6月19日建立
Apply Zero-3 and LoRA appears empty lora weight [0]
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 38/100

deepspeedai/DeepSpeedExamples#969 · 1 則留言 · 2025年4月16日建立
DeepSpeed-FastGen support ascend npu?
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 15/100

deepspeedai/DeepSpeedExamples#960 · 3 則留言 · 2025年3月4日建立
Why Does vf_loss Take the Maximum Value, Rendering Clamp Meaningless?
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#956 · 2 則留言 · 2025年2月7日建立
Is there any example about DeepSpeed Zero with Ulysses/Ulysses-offload
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 28/100

deepspeedai/DeepSpeedExamples#951 · 2025年1月10日建立
Domino + PP
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#950 · 2025年1月9日建立
Assertion `srcIndex < srcSelectDimSize` failed
可能重新可做 @loadams 於 616 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
deepspeedai/DeepSpeedExamples#946 · 1 則留言 · 已指派 1 人 · 2024年12月18日建立
Question to attention computation
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#944 · 2024年12月15日建立
KV_cache offload
未關閉
- 哪裡不對？
難度 3/5 1-2 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#943 · 3 則留言 · 2 個 reaction · 2024年12月15日建立
How can I change the master_port when using deepspeed for multi-GPU on single node, i.e. localhost
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 30/100

deepspeedai/DeepSpeedExamples#936 · 4 則留言 · 2024年11月20日建立
Does DeepSpeed's Pipeline-Parallelism optimizer supports skip connections?
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#932 · 2024年10月17日建立
How to calculate training efficiency ,i.e tokens/sec of step 1 fine tuning of llama2 model ?
未關閉
- 哪裡不對？
難度 2/5 1-3 小時新手友好度 25/100

deepspeedai/DeepSpeedExamples#923 · 2024年8月29日建立
Actor loss nan and Resizing model embedding
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#922 · 1 則留言 · 2024年8月29日建立
step2 without any response for a long time
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#915 · 2024年8月15日建立
Different zero stage the training memory compute
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#912 · 2024年7月17日建立
an error with gradient checkpointing in DeepspeedChat step 3
可能重新可做 @lekurile 於 826 天前認領，目前沒有進行中的 PR。未關閉
- 哪裡不對？
deepspeedai/DeepSpeedExamples#908 · 已指派 1 人 · 2024年6月28日建立
单机多卡进行RLHF在第三步中使用Qwen模型作Actor Model报错
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#907 · 2 則留言 · 2024年6月25日建立
DeepSpeed-Chat step-1 hanging for a long time
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#906 · 2024年6月19日建立
CPU OOM when inferencing Llama3-70B-Chinese-Chat
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#904 · 2024年5月20日建立
cannot pickle 'Stream' object
未關閉
- 哪裡不對？
難度 3/5 1-2 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#903 · 2024年5月17日建立
can not run the test-gpt.sh because of assertionError
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#902 · 2024年5月16日建立
请问fastgen 是否支持长文本和序列并行推理
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 15/100

deepspeedai/DeepSpeedExamples#901 · 2024年5月14日建立
[Error] AutoTune: `connect to host localhost port 22: Connection refused`
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#894 · 1 個 reaction · 2024年4月20日建立
How to use deepspeed for multi-node and multi-card task in slurm cluster
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#893 · 2024年4月18日建立
Does Zero-Inference support TP?
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#892 · 11 則留言 · 2024年4月16日建立
Deepspeed support finetune extra model with lora ?
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#890 · 1 則留言 · 2024年4月12日建立
The actor constantly generates ['</s>'] or ['<|endoftext|></s>'] after 200 steps in RLHF with hybrid engine disabled
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#887 · 1 則留言 · 2024年4月9日建立
About multiple-thread attention computation on CPU using zero-inference example.
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#886 · 2024年4月4日建立
Suggested GPU to run the demo code of step2_reward_model_finetuning (DeepSpeed-Chat)
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 20/100

deepspeedai/DeepSpeedExamples#885 · 2024年4月4日建立
[REQUEST] More fine-grained distributed strategies for RLHF training
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 25/100

deepspeedai/DeepSpeedExamples#884 · 2024年4月3日建立
The reward value did not increase.
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#883 · 1 則留言 · 2024年4月2日建立
Confusion about Deepspeed Inference
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#879 · 1 則留言 · 2024年3月25日建立
`AttributeError: readonly attribute` while trying to run training/HelloDeepSpeed
未關閉
- 哪裡不對？
難度 3/5 1-2 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#878 · 2024年3月21日建立
[Bug] DeepSpeed Inference Does not Work with LLaMA (Latest verison)
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#867 · 3 則留言 · 2024年2月29日建立
[BUG in Stable Diffusion inference] There's an error on CUDAGraph when using deepspeed inference. How to fix it?
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#866 · 2 則留言 · 2024年2月29日建立
zero3 and enable hybrid engine are not suitable for llama2, how to solve it?
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 30/100

deepspeedai/DeepSpeedExamples#864 · 3 則留言 · 2024年2月26日建立
RLHF problems when using Qwen model
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#861 · 1 則留言 · 2024年2月22日建立
Codellama finetune
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#860 · 2024年2月19日建立
Throughput should be `num_queries/latency` as opposed to `num_clients/latency`?
未關閉
- 哪裡不對？
難度 3/5 1-2 天新手友好度 38/100

deepspeedai/DeepSpeedExamples#858 · 2024年2月3日建立
The inaccurate flop results after several rounds
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#855 · 1 則留言 · 2024年1月19日建立
remove redundant code
未關閉
- 哪裡不對？
難度 1/5 1 小時以內新手友好度 45/100

deepspeedai/DeepSpeedExamples#852 · 2024年1月13日建立
Question: Why not padding to the same sequence length within the batch during the sft training phase?
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 35/100

deepspeedai/DeepSpeedExamples#849 · 2024年1月12日建立
torch.distributed.DistBackendError: NCCL error in: ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1333, remote process exited or there was a network error, NCCL version 2.18.6
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 25/100

deepspeedai/DeepSpeedExamples#845 · 4 則留言 · 2024年1月8日建立
Invalidate trace cache @ step 0: expected module 0, but got module 6
未關閉
- 哪裡不對？
難度 4/5 3-5 天新手友好度 18/100

deepspeedai/DeepSpeedExamples#840 · 2023年12月31日建立
async_pipeline is not exposed in the library
未關閉
- 哪裡不對？
難度 1/5 1 小時以內新手友好度 48/100

deepspeedai/DeepSpeedExamples#835 · 1 則留言 · 2023年12月20日建立
Mistral and Orca Training
未關閉
- 哪裡不對？
難度 5/5 一週以上新手友好度 20/100

deepspeedai/DeepSpeedExamples#832 · 2023年12月14日建立

只顯示最新的 100 筆

這個頁面只列出最近收錄的部分。完整清單在進階篩選裡，可以依語言、難度和預計耗時篩選。

前往進階篩選

deepspeedai/DeepSpeedExamples

deepspeedai/DeepSpeedExamples 對新手友好嗎？

如何為 deepspeedai/DeepSpeedExamples 做貢獻

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

哪裡不對？

只顯示最新的 100 筆

把新 issue 寄到你的電子郵件信箱