stats/base/dists/f/cdf loses accuracy for small x and returns 0 for very small x

Aberta Para iniciantes
#16,655 1 comentário 0 reações 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 1 dia

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
2/5
Tempo estimado
1-3 horas
Facilidade para iniciantes
72/100
Tipo de issue
Bug
Clareza
Claramente especificada
Status de atividade
Ativa
Stack de tecnologia
javascript
Domínio
data

Direção de pesquisa

A issue identifica lib/main.js, lib/factory.js e src/main.c como arquivos que contêm a mesma lógica. Leia a implementação de CDF e seus testes; em seguida, compare os branches atuais com as entradas estáveis da função beta descritas na issue. Verifique os casos relatados para valores pequenos de x em relação aos valores esperados e execute os testes relevantes.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

Description

The F distribution CDF is inaccurate for small x and returns exactly 0 once d1*x/d2 is below about 1e-16.

For d1*x <= d2, the implementation evaluates betainc( d2/(d2+(d1*x)), d2/2, d1/2, true, true ). The first argument is 1 - d1*x/(d2+d1*x), which loses most of its significant digits when x is small (and rounds to exactly 1 for tiny x), so the upper regularized incomplete beta is computed from a heavily rounded input.

The branches appear to be swapped relative to the numerically stable choice (also used by Boost's fisher_f CDF): when d1*x <= d2, compute betainc( (d1*x)/(d2+(d1*x)), d1/2, d2/2, true, false ) (small argument, no cancellation), and when d1*x > d2, compute betainc( d2/(d2+(d1*x)), d2/2, d1/2, true, true ).

With the branches swapped, the maximum relative error over a grid of d1, d2 in {0.5, 1, 2, 3, 5, 10, 30} and x from 1e-20 to 1e8 drops from 1.0 to about 1.6e-15 (compared with SciPy and mpmath).

The same logic is in lib/main.js, lib/factory.js, and src/main.c.

Related Issues

None

Questions

No.

Demo

N/A

Reproduction

var cdf = require( '@stdlib/stats/base/dists/f/cdf' );

console.log( cdf( 1.0e-20, 2.0, 3.0 ) );
console.log( cdf( 1.0e-12, 2.0, 3.0 ) );
console.log( cdf( 1.0e-12, 10.0, 30.0 ) );

Expected Results
1.0e-20
9.9999999999916667e-13
4.7851851851586008e-59

(reference values computed with mpmath at 40 digits; SciPy's `f.cdf` agrees)
Actual Results
0
1.0000333894309431e-12
4.789970438279987e-59
Version

@stdlib/stats-base-dists-f-cdf 0.2.3 (the same code is on develop)

Environments

Node.js

Browser Version

N/A

Node.js / npm Version

Node.js v24.16.0, npm 11.13.0

Platform

Windows 11

Checklist
  • Read and understood the Code of Conduct.
  • Searched for existing issues and pull requests.
Linguagem predominante
JavaScript
Estrelas
6k
Forks
1.3k
Merge médio
1d 21h
PRs com merge (30d)
224

Preparar o ambiente

Abrir no Codespaces

Inicia o contêiner de desenvolvimento do projeto no navegador, com a sua própria conta do GitHub.

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de stdlib-js/stdlib

Todas as issues de stdlib-js/stdlib

Issues semelhantes

Mais issues de JavaScript

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.