Hacktoberfest 2026：メンテナが10月に向けて印を付けた、オープンで初心者向けの issue。 Hacktoberfest の issue を見る

Numerical instability in loss functions (`cross_entropy_loss` and `binary_cross_entropy_loss`)

オープン 初心者向け
  • 何か問題がありますか？
#33 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
72/100
issue の種類
バグ
明瞭さ
おおむね明確
活発さ
静か
技術スタック
python
領域
machine-learning

調査の方向性

leanpass/nn.py の2つの損失関数から始め、各確率が log に到達する流れを追ってください。確率が0または0に非常に近い場合に各関数がどのように振る舞うかを確認してください。完了とは、それらの入力に対して損失と勾配が有限であることを意味します。Issueでは、イプシロンを追加するか、より安定した数式を使用することを提案しています。

索引モデルが issue の本文から書いたものです。

説明

enhancement

File: leanpass/nn.py

Both loss functions compute log of probabilities directly. When the probability is exactly 0 (possible due to underflow in softmax or sigmoid), the log returns -inf, leading to NaNs in the loss and gradients.

Enhancement: add a small epsilon (e.g., 1e-12) to the probabilities before taking the log, or use a more stable formulation such as log_softmax for cross‑entropy.

This aligns the library with typical deep‑learning expectations.

Filed automatically by ai-issue-scan.

主要言語
Python
スター
16
フォーク
1
平均マージ
2日 8時間
マージ済み PR（30日）
5

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

Terminay/leanpass のほかの issue

Terminay/leanpass の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。