`Adam.step` bias‑correction may underflow for large step counts
还没有人认领这个 Issue。
评估
- 难度
- 2/5
- 预计耗时
- 1-3 小时
- 新手友好度
- 68/100
- Issue 类型
- 缺陷
- 描述清晰度
- 描述清楚
- 活跃度
- 冷清
- 技术栈
- numpy, python
调研方向
从 leanpass/optim.py 开始，检查 Adam.step 如何计算偏差校正后的矩。检查现有的优化器测试（如果有），并验证大步数下的行为。完成意味着在大的 self.t 下偏差校正仍然准确，且不改变预期的 Adam 更新。
由索引模型根据 Issue 内容生成。
描述
File: leanpass/optim.py
The bias‑corrected moments are computed as self.m[i] / (1 - self.b1 ** self.t) and similarly for v. For large self.t (e.g., >1e5) self.b1 ** self.t underflows to 0, making the denominator exactly 1 and losing the bias correction. While not a crash, it deviates from the algorithm and can affect convergence.
Fix: Compute the denominator using np.power(self.b1, self.t, dtype=np.float64) or keep a running bias_correction1 *= self.b1 and use 1 - bias_correction1. This preserves precision for many steps.
File: leanpass/optim.py
Filed automatically by ai-issue-scan.
- 主要语言
- Python
- 星标
- 16
- 派生
- 1
- 平均合并
- 2 天 8 小时
- 30 天内合并 PR
- 5
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
Terminay/leanpass 的其他 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 75/100
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
-
bug
难度 2/5 1-3 小时 新手友好度 82/100
-
enhancement
难度 2/5 1-3 小时 新手友好度 82/100
-
performance
难度 2/5 1-3 小时 新手友好度 78/100
查看 Terminay/leanpass 的全部 Issue
相似的 Issue
-
style: article/section 📝 system: cloud.rc ☁️ system: security 🔐
难度 2/5 1-3 小时 新手友好度 65/100
uabrc/uabrc.github.io#1262 ·
-
documentation
难度 2/5 1-3 小时 新手友好度 70/100
NCAR/miles-credit#526 ·
-
documentation
难度 1/5 1-3 小时 新手友好度 76/100
conda/conda-lock#957 ·
维护者通常 1 天内回复
-
Type: Bug
难度 2/5 1-3 小时 新手友好度 65/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 76/100
aws-samples/sample-per-model-bedrock#464 ·
维护者通常 1 天内回复