Numerical instability in loss functions (`cross_entropy_loss` and `binary_cross_entropy_loss`)
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 2/5
- Temps estimé
- 1-3 heures
- Accessibilité débutants
- 72/100
- Type d'issue
- Bug
- Clarté
- Plutôt claire
- Activité
- Calme
- Stack technique
- python
- Domaine
- machine-learning
Piste de recherche
Commencez par les deux fonctions de perte dans leanpass/nn.py et retracez comment leurs probabilités arrivent à log. Vérifiez comment les fonctions se comportent lorsque les probabilités sont nulles ou très proches de zéro. Terminé signifie que les pertes et les gradients restent finis pour ces entrées ; l'issue suggère d'ajouter epsilon ou d'utiliser une formulation plus stable.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
File: leanpass/nn.py
Both loss functions compute log of probabilities directly. When the probability is exactly 0 (possible due to underflow in softmax or sigmoid), the log returns -inf, leading to NaNs in the loss and gradients.
Enhancement: add a small epsilon (e.g., 1e-12) to the probabilities before taking the log, or use a more stable formulation such as log_softmax for cross‑entropy.
This aligns the library with typical deep‑learning expectations.
Filed automatically by ai-issue-scan.
- Langage dominant
- Python
- Étoiles
- 16
- Forks
- 1
- Merge moyen
- 2 j 8 h
- PR mergées (30 j)
- 5
Préparer son environnement
- Aucun Dockerfile ni fichier Docker Compose
- Propose un modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de Terminay/leanpass
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
-
bug
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
-
enhancement
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
-
performance
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
Toutes les issues de Terminay/leanpass
Issues similaires
-
[Bug]: Revit selector reads process ids 2000-2099 as years (flaky AgentClientTests.AYearOrAProcessIdSelectsTheHost)Peut-être pris @Wurschdhaud l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 83/100
pyrevitlabs/pyRevit#3817 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 85/100
521xueweihan/HelloGitHub#4074 ·
-
follow-up
Difficulté 2/5 1-3 heures Accessibilité débutants 62/100
Les mainteneurs répondent en général sous 1 jour
-
Helm chart: allow setting ingressClassName on the IngressPeut-être pris @commarla l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 85/100
pgadmin-org/pgadmin4#10658 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100