Support MiniMax-H3 Visual VAE quantization in ModelOpt
维护者通常 2 天内回复
@cjluo-nv 已经在做这个了。
开始于 2026年8月17日。
评估
这个 Issue 还没有评估数据。
描述
vLLM-Omni is currently working on production VAE optimization for MiniMax-H3 in
https://github.com/vllm-project/vllm-omni/issues/5948
As a follow-up, would the ModelOpt team be interested in adding quantization support for the MiniMax-H3 Visual VAE?
This could explore FP8, NVFP4, or mixed-precision quantization depending on quality and kernel support, and potentially integrate with the VAE optimization path in vLLM-Omni.
Thanks!
- 主要语言
- Python
- 星标
- 5.3k
- 派生
- 745
- 平均合并
- 4 天 2 小时
- 30 天内合并 PR
- 160
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
NVIDIA/Model-Optimizer 的其他 Issue
-
[Bug] modelopt-mcp: all launcher subprocesses hang when the server runs as a stdio MCP server — missing stdin=DEVNULL可能已有人在做 @ChenhanYu 于 13 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 88/100
NVIDIA/Model-Optimizer#2551 · 1 条评论 · 已指派 1 人 ·
维护者通常 2 天内回复
-
Puzzletron Progress 6/8 (calculating one block scores) takes 10 to 20 times more than in tutorial可能重新可做 @tejasng053 于 20 天前认领,目前没有进行中的 PR。 未关闭bug
难度 2/5 1-3 小时 新手友好度 68/100
NVIDIA/Model-Optimizer#1667 ·
维护者通常 2 天内回复
-
fp4_kernel_hopper.py uses tl.make_block_ptr, which is removed in Triton main (breaks NVFP4 fake quant)可能已有人在做 @kinjalpatel27 今天认领。 未关闭
难度 3/5 半天 新手友好度 72/100
NVIDIA/Model-Optimizer#2810 · 已指派 1 人 ·
维护者通常 2 天内回复
-
test_cast_fp4_impl_gpu_mem is flaky on Jetson Thor: mem_get_info reports system-wide memory on integrated GPUs可能已有人在做 @LinCanNerd 于 8 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 25/100
NVIDIA/Model-Optimizer#2706 ·
维护者通常 2 天内回复
-
test_cuda_pack_reconstruction_matches_pytorch_at_scale[iq1_m] fails on Jetson Thor: exact ties exceed the blocks // 1000 bound可能已有人在做 @LinCanNerd 于 8 天前认领。 未关闭
难度 2/5 1-3 小时 新手友好度 35/100
NVIDIA/Model-Optimizer#2705 ·
维护者通常 2 天内回复
查看 NVIDIA/Model-Optimizer 的全部 Issue
相似的 Issue
-
area:core-platform effort:S priority:P3 status:in-review type:test
难度 2/5 1 小时以内 新手友好度 80/100
randomparity/kdive#3246 · 1 条评论 ·
维护者通常 1 天内回复
-
Requantification library converts m/z to mass with the hydrogen-atom mass instead of the proton mass未关闭bug
难度 1/5 1 小时以内 新手友好度 85/100
nf-core/metaboigniter#130 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 75/100
common-workflow-language/cwl-utils#477 ·
维护者通常 1 天内回复
-
Add dependabot未关闭feat
难度 2/5 1 小时以内 新手友好度 72/100
open-nudge/opentemplate#204 ·
维护者通常 1 天内回复
-
github-stale-ci-pr-closer: KV state is double-wrapped, never persists, and hits the depth-32 limit可能已有人在做 @VascoSch92 今天认领。 未关闭priority:medium ready-for-dev
难度 2/5 1-3 小时 新手友好度 72/100
OpenHands/extensions#781 ·
维护者通常 1 天内回复