[BUG]: `number/float16/base/to-word` mis-rounds subnormals at the 11-bit shift boundary

Ouverte
#16,510 1 commentaire 0 réactions 0 personnes assignées Voir sur GitHub

Les mainteneurs répondent en général sous 1 jour

@harsh-thakkar7 y travaille déjà.

Depuis le 5/11/2026.

  • #16511 par @harsh-thakkar7 — ouverte

Évaluation

Difficulté
2/5
Temps estimé
1-3 heures
Accessibilité débutants
35/100
Type d'issue
Bug
Clarté
Clairement spécifiée
Activité
À l'abandon
Stack technique
javascript, node.js
Domaine
backend

Piste de recherche

The issue identifies lib/main.js and the subnormal rounding branch as the starting point. Check the conversion against native Float16Array around the 11-bit shift boundary, including positive and negative values and the exact halfway value. Done means the reported mismatches are fixed and focused regression coverage confirms the expected half-precision words; pull request #16511 is already open.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

Description

@stdlib/number/float16/base/to-word returns zero for float32 values just above 2^-25 that should round to the smallest positive half-precision subnormal. Native Float16Array rounds these to 0x0001.

var toWord = require( '@stdlib/number/float16/base/to-word' );

toWord( 2.98038125038147e-8 );  // returns 0x0000, expected 0x0001
toWord( -2.98038125038147e-8 ); // returns 0x8000, expected 0x8001

Comparing against new Float16Array over 20,000 values in [2^-25, 2^-24) shows 10,015 mismatches; the values that should round to 0x0001 are returned as zero. The exact halfway value 2^-25 correctly ties to zero in both implementations.

Root Cause

In lib/main.js, the subnormal rounding path branches on:

if ( shift < 11 ) {

When shift === 11, the code falls into the else branch, which extracts the round bit from the original 23-bit mantissa at the wrong position. With shift = 11 the 11-bit mantissa is shifted out entirely, and the round bit is its lowest bit (bit 10), which the first branch already handles correctly. Values requiring shift > 11 return zero earlier via the f16Exponent < -10 check, so the else branch is only reachable for shift === 11.

Changing the condition to shift <= 11 fixes all mismatches in a 50,000-value sweep.

Environment
  • Version: develop (7cf56423a)
  • Node.js with native Float16Array support
  • The bug is platform-independent and affects the JavaScript path only; the C path returns the bits of an already-encoded stdlib_float16_t.
Checklist
  • Read and understood the Code of Conduct.
  • Searched for existing issues and pull requests.
Langage dominant
JavaScript
Étoiles
6k
Forks
1.3k
Merge moyen
1 j 21 h
PR mergées (30 j)
224

Préparer son environnement

Ouvrir dans Codespaces

Lance le conteneur de développement du projet dans votre navigateur, avec votre propre compte GitHub.

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de stdlib-js/stdlib

Toutes les issues de stdlib-js/stdlib

Issues similaires

Plus d'issues JavaScript

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.