Reduce CPU overheads in te Sequential GroupedLinear Op

未关闭

#2,995 创建于 2026年5月14日 2 条评论 0 个 reaction 已指派 0 人在 GitHub 查看

维护者通常 2 天内回复

还没有人认领这个 Issue。

评估

难度: 4/5
预计耗时: 3-5 天
新手友好度: 38/100

Issue 类型: 缺陷
描述清晰度: 需要澄清
活跃度: 活跃
技术栈: python
领域: machine-learning, performance

调研方向

首先阅读 PR #2923，并跟踪 graph-safe Sequential GroupedLinear Op 路径。对其进行性能分析以识别 CPU 瓶颈，然后验证在不影响该 operation 现有行为且不引入回归的情况下，开销得到了降低。

由索引模型根据 Issue 内容生成。

描述

Recently graph safe support has been added to te Sequential GroupedLinear Op https://github.com/NVIDIA/TransformerEngine/pull/2923.

But it suffers from CPU overheads. Nail the bottlenecks and fix them

主要语言: Python
星标: 3.6k
派生: 851
平均合并: 4 天 15 小时
30 天内合并 PR: 51

环境准备

没有 Dockerfile 或 Docker Compose 文件
有 Pull Request 模板
阅读贡献指南

从这里开始

先读完整个 Issue，再读项目的贡献指南。
在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
Fork 仓库，在一个分支上完成修改。
提交 Pull Request，并在描述里引用这个 Issue 编号。

NVIDIA/TransformerEngine 的其他 Issue

[PyTorch] fp8_cs_quantize fake implementation returns a vector inverse scale instead of a scalar
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 82/100

NVIDIA/TransformerEngine#3636 · 2026年10月6日创建

维护者通常 2 天内回复
[Bug] Backend selection picks FA3 for training with head_dim_qk=192 / v_head_dim=128, but FA3 backward cannot run it
可能已有人在做 @yuweih205 于 31 天前认领。未关闭
- 哪里不对？
attention

难度 2/5 1-3 小时新手友好度 85/100

NVIDIA/TransformerEngine#3481 · 4 条评论 · 2026年9月4日创建

维护者通常 2 天内回复
Increase MAX_TENSOR_NUM
未关闭
- 哪里不对？
bug

难度 2/5 1-3 小时新手友好度 68/100

NVIDIA/TransformerEngine#2189 · 7 条评论 · 5 个 reaction · 2025年9月19日创建

维护者通常 2 天内回复
[PyTorch] CUDA graph RNG registration floods training logs on automatic-registration builds
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 50/100

NVIDIA/TransformerEngine#3645 · 2026年10月7日创建

维护者通常 2 天内回复
Support exporting MXFP8 values and scales from TE quantized tensors
未关闭
- 哪里不对？
enhancement

难度 5/5 一周以上新手友好度 35/100

NVIDIA/TransformerEngine#3644 · 2026年10月7日创建

维护者通常 2 天内回复

查看 NVIDIA/TransformerEngine 的全部 Issue

相似的 Issue

`LLM_ENABLE_THINKING=false` is never sent, so thinking can't be turned off
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 85/100

linagora/openrag#1163 · 2026年10月8日创建

维护者通常 1 天内回复
SR_SECURITY_DESCRIPTOR.fromString drops the SACL when no DACL is present
可能已有人在做 @paul7436 今天认领。未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 88/100

fortra/impacket#2322 · 2026年10月8日创建

维护者通常 2 天内回复
Do not try to upload Ensemble metadata when on Case level
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 85/100

equinor/fmu-sumo-uploader#302 · 2026年10月8日创建

维护者通常 1 天内回复
Support Terminal-Bench 4.0 in EvalScope
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 75/100

modelscope/evalscope#1821 · 2026年10月8日创建

维护者通常 1 天内回复
Sanity on ansible-core devel fails: ignore-2.23.txt references the removed import-3.9 test
可能已有人在做 @yurnov 今天认领。未关闭
- 哪里不对？
needs_triage

难度 1/5 1 小时以内新手友好度 91/100

ansible-collections/kubernetes.core#1275 · 2026年10月8日创建

维护者通常 1 天内回复

更多 Python Issue

精选适合新手参与的 GitHub issue 摘要。