Unnecessary Tensor allocation in `Dropout` forward pass
还没有人认领这个 Issue。
评估
- 难度
- 2/5
- 预计耗时
- 1-3 小时
- 新手友好度
- 78/100
- Issue 类型
- 缺陷
- 描述清晰度
- 描述清楚
- 活跃度
- 活跃
- 技术栈
- numpy, python
调研方向
从 leanpass/nn.py 开始，阅读 Dropout.forward 查看掩码的创建与使用方式。检查现有测试或运行相关测试套件，验证修改前后的 dropout 行为。当前向传播避免为掩码使用不必要的梯度跟踪 Tensor 且 dropout 行为保持正确时，即可完成。
由索引模型根据 Issue 内容生成。
描述
File: leanpass/nn.py
Dropout.forward creates a new Tensor for the dropout mask on every call (Tensor(mask)). The mask never requires gradients, so wrapping it in a Tensor adds overhead (extra object, backward node) without benefit. Use the raw NumPy mask directly in the multiplication (x * mask) or create a non‑gradient‑tracking Tensor once and reuse it. This reduces memory churn during training.
Filed automatically by ai-issue-scan.
- 主要语言
- Python
- 星标
- 16
- 派生
- 1
- 平均合并
- 2 天 8 小时
- 30 天内合并 PR
- 5
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
Terminay/leanpass 的其他 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 75/100
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
-
bug
难度 2/5 1-3 小时 新手友好度 82/100
-
enhancement
难度 2/5 1-3 小时 新手友好度 82/100
-
docs
难度 1/5 1 小时以内 新手友好度 88/100
查看 Terminay/leanpass 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 66/100
-
[Bug]: Queen's own Ollama model loses num_ctx when a running session switches to it可能已有人在做 @anasamin26 今天认领。 未关闭bug enhancement
难度 2/5 1-3 小时 新手友好度 78/100
维护者通常 1 天内回复
-
llm translation
难度 2/5 1-3 小时 新手友好度 78/100
BerriAI/litellm#47884 · 1 条评论 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 78/100
维护者通常 1 天内回复
-
bug 🐛
难度 2/5 1-3 小时 新手友好度 72/100
netalertx/NetAlertX#1856 · 1 个 reaction ·
维护者通常 1 天内回复