SGD.zero_grad overwrites gradients for non‑trainable parameters
还没有人认领这个 Issue。
评估
- 难度
- 2/5
- 预计耗时
- 1-3 小时
- 新手友好度
- 85/100
- Issue 类型
- 缺陷
- 描述清晰度
- 描述清楚
- 活跃度
- 冷清
- 技术栈
- python
调研方向
从 leanpass/optim.py 中的 zero_grad 开始,检查它如何处理带和不带 requires_grad 的参数。完成意味着只有可训练的参数接收值为零的梯度,而不可训练的参数保持 grad=None。
由索引模型根据 Issue 内容生成。
描述
File: leanpass/optim.py
The zero_grad method unconditionally creates a NumPy array for param.grad even when the parameter does not require gradients (requires_grad=False). This breaks the convention that non‑trainable tensors have grad=None and can cause downstream code to treat them as trainable. The method should only zero gradients for parameters that have requires_grad=True.
def zero_grad(self):
for param in self.params:
- param.grad = np.zeros_like(param.data)
+ if param.requires_grad:
+ param.grad = np.zeros_like(param.data)
Filed automatically by ai-issue-scan.
- 主要语言
- Python
- 星标
- 16
- 派生
- 1
- 平均合并
- 2 天 8 小时
- 30 天内合并 PR
- 5
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
Terminay/leanpass 的其他 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 75/100
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
-
bug
难度 2/5 1-3 小时 新手友好度 82/100
-
enhancement
难度 2/5 1-3 小时 新手友好度 82/100
-
performance
难度 2/5 1-3 小时 新手友好度 78/100
查看 Terminay/leanpass 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 67/100
MISP/misp-workbench#496 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 66/100
维护者通常 1 天内回复
-
难度 1/5 1-3 小时 新手友好度 88/100
fossasia/visdom-dev#69 ·
维护者通常 3 天内回复
-
[Bug] Parameters named like a property break to_xcal()可能已有人在做 @atharvasalunke1267 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 65/100
collective/icalendar#2018 · 2 条评论 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 75/100
维护者通常 1 天内回复