Numerical instability in loss functions (`cross_entropy_loss` and `binary_cross_entropy_loss`)
还没有人认领这个 Issue。
评估
- 难度
- 2/5
- 预计耗时
- 1-3 小时
- 新手友好度
- 72/100
- Issue 类型
- 缺陷
- 描述清晰度
- 基本清楚
- 活跃度
- 冷清
- 技术栈
- python
调研方向
从 leanpass/nn.py 中的两个损失函数开始，追踪它们的概率如何到达 log。检查当概率为0或非常接近0时函数的行为。完成意味着对于这些输入，损失和梯度保持有限；该issue建议添加epsilon或使用更稳定的公式。
由索引模型根据 Issue 内容生成。
描述
File: leanpass/nn.py
Both loss functions compute log of probabilities directly. When the probability is exactly 0 (possible due to underflow in softmax or sigmoid), the log returns -inf, leading to NaNs in the loss and gradients.
Enhancement: add a small epsilon (e.g., 1e-12) to the probabilities before taking the log, or use a more stable formulation such as log_softmax for cross‑entropy.
This aligns the library with typical deep‑learning expectations.
Filed automatically by ai-issue-scan.
- 主要语言
- Python
- 星标
- 16
- 派生
- 1
- 平均合并
- 2 天 8 小时
- 30 天内合并 PR
- 5
环境准备
- 没有 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue，再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库，在一个分支上完成修改。
- 提交 Pull Request，并在描述里引用这个 Issue 编号。
Terminay/leanpass 的其他 Issue
-
bug
难度 2/5 1-3 小时 新手友好度 75/100
-
bug
难度 2/5 1-3 小时 新手友好度 78/100
-
bug
难度 2/5 1-3 小时 新手友好度 82/100
-
enhancement
难度 2/5 1-3 小时 新手友好度 82/100
-
performance
难度 2/5 1-3 小时 新手友好度 78/100
查看 Terminay/leanpass 的全部 Issue
相似的 Issue
-
难度 1/5 1 小时以内 新手友好度 80/100
521xueweihan/HelloGitHub#4063 ·
-
难度 2/5 1-3 小时 新手友好度 78/100
-
难度 2/5 1-3 小时 新手友好度 62/100
Vanilla-OS/apx-gui#112 ·
-
Devstral and Voxtral: section 5 fails in us-east-1 with 400 "Model does not support audio modality"未关闭
难度 2/5 1-3 小时 新手友好度 76/100
aws-samples/sample-per-model-bedrock#409 ·
维护者通常 1 天内回复
-
DuckDB 2.0 breaks to_pyarrow_batches可能已有人在做 @DG47 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 76/100
ibis-project/ibis#12196 ·
维护者通常 1 天内回复