NVIDIA-NeMo/Export-Deploy

GitHub で見る

A library for exporting models including NeMo and Hugging Face to optimized inference backends, and deploying them for efficient querying

スター: 42
フォーク: 18
オープンの初心者向け issue: 0
索引済み issue: 28
平均マージ: 1日 2時間
マージ済み PR（30日）: 8

主要言語: Python
ライセンス: Apache-2.0
最終 GitHub push: 2026年9月10日
最新の索引: 2026年9月19日
コントリビューションガイド: コントリビューションガイド
行動規範: 行動規範がありません
初心者向けラベル: 初心者向けラベルは索引されていません

初心者向けすべて

オープンすべて

[ALERT] Access to NVIDIA's Self-Hosted Runners is Expiring オープン

nvidia-runners

難易度 2/5 1〜3時間初心者へのやさしさ 35/100

NVIDIA-NeMo/Export-Deploy#759 · 2026年8月30日に作成
Update ED to use Dynamic Inference Engine from MCore オープン

NVIDIA-NeMo/Export-Deploy#693 · 担当者 1 名 · 2026年5月22日に作成
Incorrect handling of reasoning traces for nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 in MBridge format オープン

bug

NVIDIA-NeMo/Export-Deploy#682 · コメント 1 件 · 担当者 1 名 · 2026年5月22日に作成
Server returns empty answer when too many tokens requested オープン

bug

NVIDIA-NeMo/Export-Deploy#652 · 担当者 1 名 · 2026年4月13日に作成
VLM endpoint fails when there are no images in the request オープン

bug

NVIDIA-NeMo/Export-Deploy#632 · 担当者 1 名 · 2026年3月12日に作成
Ray Deployment of moonlight 16B (MBridge) fails オープン

bug

NVIDIA-NeMo/Export-Deploy#616 · 担当者 1 名 · 2026年2月23日に作成
Stop word support for mcore inference オープン

enhancement

NVIDIA-NeMo/Export-Deploy#564 · コメント 1 件 · 担当者 1 名 · 2026年1月20日に作成
Copy changes in PR 501 and 505 to scripts under new llm dir オープン

bug

NVIDIA-NeMo/Export-Deploy#504 · 担当者 1 名 · 2025年11月6日に作成
Export and Deploy PTQed Megatron-Bridge Models オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

NVIDIA-NeMo/Export-Deploy#457 · コメント 1 件 · 2025年10月17日に作成
Create separate scripts for all the deployment paths オープン

enhancement

NVIDIA-NeMo/Export-Deploy#438 · 担当者 1 名 · 2025年10月6日に作成
Check params like use_greedy and repetition_penalty for NemoQueryLLMPyTorch class オープン

bug

NVIDIA-NeMo/Export-Deploy#434 · 担当者 1 名 · 2025年10月4日に作成
Stopword support for in-framework deployment オープン

enhancement

難易度 4/5 3〜5日初心者へのやさしさ 35/100

NVIDIA-NeMo/Export-Deploy#430 · コメント 2 件 · 2025年10月1日に作成
Go over the docs and update the support matrices オープン

documentation

NVIDIA-NeMo/Export-Deploy#425 · 担当者 1 名 · 2025年10月1日に作成
Move operations like chat templates to the server side for VLM deployment オープン

enhancement

NVIDIA-NeMo/Export-Deploy#423 · コメント 1 件 · 担当者 1 名 · 2025年10月1日に作成
Introduce consistent and intuitive parameter naming for NeMo TensorRTLLM class vs TensorRT-LLM library, and across all export and deploy options オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

NVIDIA-NeMo/Export-Deploy#412 · 2025年9月24日に作成
Refactor tokenizer handling in nemo.export module オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 35/100

NVIDIA-NeMo/Export-Deploy#411 · 2025年9月24日に作成
Integrate exporting & deploying modelopt (quantized) unified checkpoints オープン

enhancement

難易度 4/5 3〜5日初心者へのやさしさ 35/100

NVIDIA-NeMo/Export-Deploy#410 · コメント 1 件 · 2025年9月24日に作成
Support exporting fp4 models オープン

enhancement

NVIDIA-NeMo/Export-Deploy#409 · 担当者 1 名 · 2025年9月24日に作成
Add multi batch size cuda graphs support for M-Bridge in-framework deployment. オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 20/100

NVIDIA-NeMo/Export-Deploy#408 · 2025年9月24日に作成
Add GenAI-Perf Benchmark tool オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 30/100

NVIDIA-NeMo/Export-Deploy#407 · 2025年9月24日に作成
Support quantized m-bridge checkpoint for vLLM export オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

NVIDIA-NeMo/Export-Deploy#406 · 2025年9月24日に作成
Find the fastest inference options among vLLM, TensorRT-LLM, and M-Bridge オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

NVIDIA-NeMo/Export-Deploy#405 · コメント 1 件 · 2025年9月24日に作成
Quantize M-Bridge and HF checkpoints during In-Framework Deployment オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 35/100

NVIDIA-NeMo/Export-Deploy#404 · 2025年9月24日に作成
Export and Deploy Tutorials オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

NVIDIA-NeMo/Export-Deploy#402 · 2025年9月24日に作成
VLM in-framework support deployment using M-Bridge checkpoint オープン

enhancement

NVIDIA-NeMo/Export-Deploy#401 · 担当者 1 名 · 2025年9月24日に作成
vLLM export and quantization support for NeMo RL オープン

enhancement

NVIDIA-NeMo/Export-Deploy#399 · 担当者 1 名 · 2025年9月24日に作成
Support M-Bridge checkpoints for TensorRT-LLM Export オープン

enhancement

NVIDIA-NeMo/Export-Deploy#398 · コメント 1 件 · 担当者 1 名 · 2025年9月24日に作成
NeMo-Run support for Ray based multi-node deployment オープン

enhancement

NVIDIA-NeMo/Export-Deploy#397 · 担当者 1 名 · 2025年9月24日に作成

NVIDIA-NeMo/Export-Deploy

新しい issue をメールで受け取る