NVIDIA-NeMo/Export-Deploy
A library for exporting models including NeMo and Hugging Face to optimized inference backends, and deploying them for efficient querying
NVIDIA-NeMo/Export-Deploy 对新手友好吗？
近期首次贡献者向 NVIDIA-NeMo/Export-Deploy 提交的 PR 还不够多，暂时无法判断它们被合并的比例。 目前没有开放的新手友好 issue，下方列出了我们收录的该仓库的其他 issue。
- 星标
- 42
- 派生
- 18
- 开放的新手 issue
- 0
- 已索引 issue
- 28
- 平均合并
- 1 天 2 小时
- 30 天内合并 PR
- 8
如何为 NVIDIA-NeMo/Export-Deploy 做贡献
- 先读贡献指南：它说明了维护者希望如何提出、测试和评审改动。
- 你的贡献将以该项目的 Apache-2.0 许可证发布。
- 关注这个仓库，有新的新手友好 issue 时就能知道；也可以看看下方的其他 issue。
可能已有人在做的 issue 排在最后。 全部按时间排序
-
nvidia-runners
难度 2/5 1-3 小时 新手友好度 35/100
NVIDIA-NeMo/Export-Deploy#759 ·
-
Update ED to use Dynamic Inference Engine from MCore可能重新可做 @oyilmaz-nvidia 于 127 天前认领，目前没有进行中的 PR。 未关闭
NVIDIA-NeMo/Export-Deploy#693 · 已指派 1 人 ·
-
Incorrect handling of reasoning traces for nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 in MBridge format可能重新可做 @athitten 于 127 天前认领，目前没有进行中的 PR。 未关闭bug
NVIDIA-NeMo/Export-Deploy#682 · 1 条评论 · 已指派 1 人 ·
-
Server returns empty answer when too many tokens requested可能重新可做 @athitten 于 166 天前认领，目前没有进行中的 PR。 未关闭bug
NVIDIA-NeMo/Export-Deploy#652 · 已指派 1 人 ·
-
VLM endpoint fails when there are no images in the request可能重新可做 @meatybobby 于 198 天前认领，目前没有进行中的 PR。 未关闭bug
NVIDIA-NeMo/Export-Deploy#632 · 已指派 1 人 ·
-
Ray Deployment of moonlight 16B (MBridge) fails可能重新可做 @oyilmaz-nvidia 于 208 天前认领，目前没有进行中的 PR。 未关闭bug
NVIDIA-NeMo/Export-Deploy#616 · 已指派 1 人 ·
-
Stop word support for mcore inference可能重新可做 @athitten 于 229 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#564 · 1 条评论 · 已指派 1 人 ·
-
Copy changes in PR 501 and 505 to scripts under new llm dir可能重新可做 @athitten 于 324 天前认领，目前没有进行中的 PR。 未关闭bug
NVIDIA-NeMo/Export-Deploy#504 · 已指派 1 人 ·
-
enhancement
难度 5/5 一周以上 新手友好度 25/100
NVIDIA-NeMo/Export-Deploy#457 · 1 条评论 ·
-
Create separate scripts for all the deployment paths可能重新可做 @oyilmaz-nvidia 于 355 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#438 · 已指派 1 人 ·
-
Check params like use_greedy and repetition_penalty for NemoQueryLLMPyTorch class可能重新可做 @oyilmaz-nvidia 于 357 天前认领，目前没有进行中的 PR。 未关闭bug
NVIDIA-NeMo/Export-Deploy#434 · 已指派 1 人 ·
-
enhancement
难度 4/5 3-5 天 新手友好度 35/100
NVIDIA-NeMo/Export-Deploy#430 · 2 条评论 ·
-
Go over the docs and update the support matrices可能重新可做 @oyilmaz-nvidia 于 360 天前认领，目前没有进行中的 PR。 未关闭documentation
NVIDIA-NeMo/Export-Deploy#425 · 已指派 1 人 ·
-
Move operations like chat templates to the server side for VLM deployment可能重新可做 @meatybobby 于 360 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#423 · 1 条评论 · 已指派 1 人 ·
-
enhancement
难度 5/5 一周以上 新手友好度 25/100
NVIDIA-NeMo/Export-Deploy#412 ·
-
enhancement
难度 5/5 一周以上 新手友好度 35/100
NVIDIA-NeMo/Export-Deploy#411 ·
-
enhancement
难度 4/5 3-5 天 新手友好度 35/100
NVIDIA-NeMo/Export-Deploy#410 · 1 条评论 ·
-
Support exporting fp4 models可能重新可做 @oyilmaz-nvidia 于 367 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#409 · 已指派 1 人 ·
-
enhancement
难度 5/5 一周以上 新手友好度 20/100
NVIDIA-NeMo/Export-Deploy#408 ·
-
enhancement
难度 5/5 一周以上 新手友好度 30/100
NVIDIA-NeMo/Export-Deploy#407 ·
-
enhancement
难度 5/5 一周以上 新手友好度 25/100
NVIDIA-NeMo/Export-Deploy#406 ·
-
enhancement
难度 5/5 一周以上 新手友好度 25/100
NVIDIA-NeMo/Export-Deploy#405 · 1 条评论 ·
-
enhancement
难度 5/5 一周以上 新手友好度 35/100
NVIDIA-NeMo/Export-Deploy#404 ·
-
enhancement
难度 5/5 一周以上 新手友好度 25/100
NVIDIA-NeMo/Export-Deploy#402 ·
-
VLM in-framework support deployment using M-Bridge checkpoint可能重新可做 @meatybobby 于 367 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#401 · 已指派 1 人 ·
-
vLLM export and quantization support for NeMo RL可能重新可做 @oyilmaz-nvidia 于 367 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#399 · 已指派 1 人 ·
-
Support M-Bridge checkpoints for TensorRT-LLM Export可能重新可做 @oyilmaz-nvidia 于 367 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#398 · 1 条评论 · 已指派 1 人 ·
-
NeMo-Run support for Ray based multi-node deployment可能重新可做 @pthombre 于 367 天前认领，目前没有进行中的 PR。 未关闭enhancement
NVIDIA-NeMo/Export-Deploy#397 · 已指派 1 人 ·