Dropout scaling can overflow for p values close to 1
还没有人认领这个 Issue。
评估
- 难度
- 2/5
- 预计耗时
- 1-3 小时
- 新手友好度
- 65/100
- Issue 类型
- 缺陷
- 描述清晰度
- 基本清楚
- 活跃度
- 冷清
- 技术栈
- python
调研方向
首先阅读 leanpass/nn.py 中的 Dropout.forward,追踪它如何缩放掩码。该 issue 提供了两种可行方案:限制 p 或对缩放值设置上限,因此实现前请先确认哪种是首选方案。完成意味着 0.9999 这类接近 1 的值不再导致溢出或激活值爆炸;运行相关的现有测试。
由索引模型根据 Issue 内容生成。
描述
File: leanpass/nn.py
Dropout.forward scales the mask by 1/(1-p). When p is very close to 1 (e.g., 0.9999) the scaling factor becomes huge, leading to overflow or exploding activations.
Fix: enforce a stricter upper bound (e.g., p <= 0.9) or use a numerically stable inverted‑dropout implementation that caps the scaling factor.
Label: bug
Filed automatically by ai-issue-scan.
- 主要语言
- Python
- 星标
- 16
- 派生
- 1
- 平均合并
- 2 天 8 小时
- 30 天内合并 PR
- 5
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
Terminay/leanpass 的其他 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 75/100
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
-
bug
难度 2/5 1-3 小时 新手友好度 82/100
-
enhancement
难度 2/5 1-3 小时 新手友好度 82/100
-
performance
难度 2/5 1-3 小时 新手友好度 78/100
查看 Terminay/leanpass 的全部 Issue
相似的 Issue
-
[Bug]: Revit selector reads process ids 2000-2099 as years (flaky AgentClientTests.AYearOrAProcessIdSelectsTheHost)可能已有人在做 @Wurschdhaud 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 83/100
pyrevitlabs/pyRevit#3817 ·
维护者通常 1 天内回复
-
难度 1/5 1 小时以内 新手友好度 85/100
521xueweihan/HelloGitHub#4074 ·
-
follow-up
难度 2/5 1-3 小时 新手友好度 62/100
维护者通常 1 天内回复
-
Helm chart: allow setting ingressClassName on the Ingress可能已有人在做 @commarla 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 85/100
pgadmin-org/pgadmin4#10658 ·
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 72/100