`Adam.step` bias‑correction may underflow for large step counts
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 68/100
- issue の種類
- バグ
- 明瞭さ
- 明確に書かれている
- 活発さ
- 静か
- 技術スタック
- numpy, python
調査の方向性
まず leanpass/optim.py を確認し、Adam.step がバイアス補正されたモーメントをどのように計算するかを調査してください。既存のオプティマイザのテストがある場合は確認し、大きなステップ数での動作を検証してください。完了とは、意図した Adam の更新を変更せずに、大きな self.t でもバイアス補正が正確であることを意味します。
索引モデルが issue の本文から書いたものです。
説明
File: leanpass/optim.py
The bias‑corrected moments are computed as self.m[i] / (1 - self.b1 ** self.t) and similarly for v. For large self.t (e.g., >1e5) self.b1 ** self.t underflows to 0, making the denominator exactly 1 and losing the bias correction. While not a crash, it deviates from the algorithm and can affect convergence.
Fix: Compute the denominator using np.power(self.b1, self.t, dtype=np.float64) or keep a running bias_correction1 *= self.b1 and use 1 - bias_correction1. This preserves precision for many steps.
File: leanpass/optim.py
Filed automatically by ai-issue-scan.
- 主要言語
- Python
- スター
- 16
- フォーク
- 1
- 平均マージ
- 2日 8時間
- マージ済み PR(30日)
- 5
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
Terminay/leanpass のほかの issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
enhancement
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
performance
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
Terminay/leanpass の issue をすべて見る
似ている issue
-
type-bug
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
メンテナーはふだん 1 日以内に返信
-
push_gh-pages fails on master branch on forks対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープンgood first issue infrastructure
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
kuznia-rdzeni/coreblocks#1135 ·
-
good first issue server
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
メンテナーはふだん 1 日以内に返信
-
documentation priority: high
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
a-lex-s/mealie-telegram-bot#54 ·
メンテナーはふだん 1 日以内に返信