stats/base/dists/f/cdf loses accuracy for small x and returns 0 for very small x

Ouverte Adaptée aux débutants
#16,655 1 commentaire 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

Personne n'a encore pris cette issue.

Évaluation

Difficulté
2/5
Temps estimé
1-3 heures
Accessibilité débutants
72/100
Type d'issue
Bug
Clarté
Clairement spécifiée
Activité
Active
Stack technique
javascript
Domaine
data

Piste de recherche

L’issue indique que lib/main.js, lib/factory.js et src/main.c contiennent la même logique. Lisez l’implémentation de CDF et ses tests, puis comparez les branches actuelles aux entrées stables de la fonction bêta décrites dans l’issue. Vérifiez les cas signalés pour les petites valeurs de x par rapport aux valeurs attendues et exécutez les tests pertinents.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Description

The F distribution CDF is inaccurate for small x and returns exactly 0 once d1*x/d2 is below about 1e-16.

For d1*x <= d2, the implementation evaluates betainc( d2/(d2+(d1*x)), d2/2, d1/2, true, true ). The first argument is 1 - d1*x/(d2+d1*x), which loses most of its significant digits when x is small (and rounds to exactly 1 for tiny x), so the upper regularized incomplete beta is computed from a heavily rounded input.

The branches appear to be swapped relative to the numerically stable choice (also used by Boost's fisher_f CDF): when d1*x <= d2, compute betainc( (d1*x)/(d2+(d1*x)), d1/2, d2/2, true, false ) (small argument, no cancellation), and when d1*x > d2, compute betainc( d2/(d2+(d1*x)), d2/2, d1/2, true, true ).

With the branches swapped, the maximum relative error over a grid of d1, d2 in {0.5, 1, 2, 3, 5, 10, 30} and x from 1e-20 to 1e8 drops from 1.0 to about 1.6e-15 (compared with SciPy and mpmath).

The same logic is in lib/main.js, lib/factory.js, and src/main.c.

Related Issues

None

Questions

No.

Demo

N/A

Reproduction

var cdf = require( '@stdlib/stats/base/dists/f/cdf' );

console.log( cdf( 1.0e-20, 2.0, 3.0 ) );
console.log( cdf( 1.0e-12, 2.0, 3.0 ) );
console.log( cdf( 1.0e-12, 10.0, 30.0 ) );

Expected Results
1.0e-20
9.9999999999916667e-13
4.7851851851586008e-59

(reference values computed with mpmath at 40 digits; SciPy's `f.cdf` agrees)
Actual Results
0
1.0000333894309431e-12
4.789970438279987e-59
Version

@stdlib/stats-base-dists-f-cdf 0.2.3 (the same code is on develop)

Environments

Node.js

Browser Version

N/A

Node.js / npm Version

Node.js v24.16.0, npm 11.13.0

Platform

Windows 11

Checklist
  • Read and understood the Code of Conduct.
  • Searched for existing issues and pull requests.
Langage dominant
JavaScript
Étoiles
6k
Forks
1.3k
Merge moyen
1 j 21 h
PR mergées (30 j)
224

Préparer son environnement

Ouvrir dans Codespaces

Lance le conteneur de développement du projet dans votre navigateur, avec votre propre compte GitHub.

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de stdlib-js/stdlib

Toutes les issues de stdlib-js/stdlib

Issues similaires

Plus d'issues JavaScript

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.