[Feature Request] DeepSeek-V4-Flash-0731 NVFP4 checkpoint
维护者通常 2 天内回复
还没有人认领这个 Issue。
评估
- 难度
- 4/5
- 预计耗时
- 3-5 天
- 新手友好度
- 48/100
- Issue 类型
- 功能
- 描述清晰度
- 基本清楚
- 活跃度
- 活跃
- 技术栈
- huggingface, python
调研方向
首先查看链接的 Hugging Face 页面上的 DeepSeek-V4-Flash-0731 checkpoint，并搜索 Model-Optimizer 仓库中现有的 NVFP4 checkpoint 支持。确定针对 Blackwell GPUs 的集成入口点和验证方法。当所请求的 checkpoint 以 NVFP4 形式可用，并且能够通过项目支持的优化流程运行时，即视为完成。
由索引模型根据 Issue 内容生成。
描述
Detailed description of the requested feature
DeepSeek-V4-Flash-0731 is the official release of DeepSeek-V4-Flash. It's very valuable to have NVFP4 checkpoint to use less computer resources with more tokens output for Blackwell GPU.
- 主要语言
- Python
- 星标
- 5.3k
- 派生
- 745
- 平均合并
- 4 天 2 小时
- 30 天内合并 PR
- 160
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
NVIDIA/Model-Optimizer 的其他 Issue
-
[Bug] modelopt-mcp: all launcher subprocesses hang when the server runs as a stdio MCP server — missing stdin=DEVNULL可能已有人在做 @ChenhanYu 于 14 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 88/100
NVIDIA/Model-Optimizer#2551 · 1 条评论 · 已指派 1 人 ·
维护者通常 2 天内回复
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorial可能重新可做 @tejasng053 于 21 天前认领，目前没有进行中的 PR。 未关闭bug
难度 2/5 1-3 小时 新手友好度 68/100
NVIDIA/Model-Optimizer#1667 ·
维护者通常 2 天内回复
-
fp4_kernel_hopper.py uses tl.make_block_ptr, which is removed in Triton main (breaks NVFP4 fake quant)可能已有人在做 @kinjalpatel27 于 1 天前认领。 未关闭
难度 3/5 半天 新手友好度 72/100
NVIDIA/Model-Optimizer#2810 · 已指派 1 人 ·
维护者通常 2 天内回复
-
test_cast_fp4_impl_gpu_mem is flaky on Jetson Thor: mem_get_info reports system-wide memory on integrated GPUs可能已有人在做 @LinCanNerd 于 9 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 25/100
NVIDIA/Model-Optimizer#2706 ·
维护者通常 2 天内回复
-
test_cuda_pack_reconstruction_matches_pytorch_at_scale[iq1_m] fails on Jetson Thor: exact ties exceed the blocks // 1000 bound可能已有人在做 @LinCanNerd 于 9 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 35/100
NVIDIA/Model-Optimizer#2705 ·
维护者通常 2 天内回复
查看 NVIDIA/Model-Optimizer 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 72/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 76/100
omegaup/omegaup#10353 · 1 条评论 ·
维护者通常 5 天内回复
-
bot-triaged module: LrScheduler module: optimizer triaged
难度 2/5 1-3 小时 新手友好度 70/100
维护者通常 1 天内回复
-
documentation glm5 llm-model
难度 2/5 1-3 小时 新手友好度 78/100
vllm-project/vllm-ascend#19062 ·
维护者通常 1 天内回复
-
author-page correction
难度 2/5 1-3 小时 新手友好度 68/100
acl-org/acl-anthology#10496 · 1 条评论 ·
维护者通常 1 天内回复