SGD applies weight decay to bias parameters as well
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 82/100
- issue の種類
- バグ
- 明瞭さ
- 明確に書かれている
- 活発さ
- 活発
- 技術スタック
- python
調査の方向性
leanpass/optim.py を開き、SGD.step を確認してください。ここでは weight_decay * param.data が全パラメータの勾配に追加されています。バイアスと推測される名前のテンソルをスキップするか（またはフラグを追加するか）、あるいは減衰が全パラメータに適用されることをドキュメントに記載するかを決定してください。リポジトリ内の既存の最適化テストを実行するか、バイアスと重みの更新を検証する小さなトレーニングループを実行して変更を確認してください。
索引モデルが issue の本文から書いたものです。
説明
File: leanpass/optim.py
The SGD.step implementation adds weight_decay * param.data to the gradient for all parameters. In most deep‑learning libraries weight decay (L2 regularization) is applied only to weight tensors, not to bias terms. This can lead to unexpected training dynamics. Provide an option to exclude bias parameters (e.g., by checking param.name or a flag) or document the current behavior clearly.
Filed automatically by ai-issue-scan.
- 主要言語
- Python
- スター
- 16
- フォーク
- 1
- 平均マージ
- 2日 8時間
- マージ済み PR（30日）
- 5
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
Terminay/leanpass のほかの issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
performance
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
-
docs
難易度 1/5 1時間未満 初心者へのやさしさ 88/100
Terminay/leanpass の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
-
[Device Support Request] HOBEIAN ZG-204ZL (Tuya PIR motion sensor with illuminance)対応中かも @lenucksi が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
zigpy/zha-device-handlers#5493 ·
メンテナーはふだん 3 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
drevendev/BeautifulRepo#42 ·
メンテナーはふだん 1 日以内に返信
-
enhancement good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
writerslogic/holographic-memory#93 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
antoine-tena/kiln#47 ·
メンテナーはふだん 1 日以内に返信