Reject non-finite values in the native HRX numerical comparator
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 78/100
- Tipo di issue
- Bug
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- cpp
- Ambito
- backend, testing-qa
Direzione di ricerca
Inizia da tests/test-hrx-ops.cpp:636 e leggi il comparatore intorno ai controlli esistenti della tolleranza assoluta e relativa. Esegui nuovamente il fixture di attenzione sequenziale immutabile di Qwen da .agents/specs/rocm-hrx-prefill-repair-3083.md, usando come contesto le evidenze conservate. Il lavoro è completato quando i valori HRX o attesi non finiti producono un risultato diverso da zero, mentre i confronti finiti mantengono le tolleranze dell’upstream.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Row: BACKEND-ROCM
The pinned AMD llama.cpp HRX test comparator accepts NaN as numerically close. tests/test-hrx-ops.cpp:636 rejects only diff > allowed; abs(NaN) makes that comparison false. The #3083 sequential Qwen attention regression therefore returned exit 0 while all three decode outputs reported HRX NaN and finite CPU values.
The BACKEND-ROCM operator and #3083 implementer own the in-flow correction in .agents/specs/rocm-hrx-prefill-repair-3083.md. Require finite actual and expected values before applying the unchanged upstream absolute and relative tolerances. Re-run the same immutable sequential fixture and retain its nonzero result before any runtime repair.
The original false-pass evidence is retained in /home/vikash/vllm.cpp-hrx-evaluation/build-hrx-evaluation/native-prefill-repaired-decode-numerics. The test ELF was d52fe52e80be01901f709ea141d833f03955791162b2ad5427122c8d32ef47e6; the backend and #3081 Loom provider were unchanged. At the first decode, HRX returned NaN and CPU returned approximately -0.00393766. Prefill output had passed the finite numerical comparison.
Scope is the test comparator and its evidence. This issue does not claim to repair the separately diagnosed runtime source of NaN. The #3083 pull request will carry this correction and close this issue when it lands.
- Lingua principale
- C++
- Stelle
- 423
- Fork
- 53
- Merge medio
- 1g 5h
- PR unite (30g)
- 376
Preparare l'ambiente
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di mudler/vllm.cpp
-
[Windows] full build fails in tools/bench/conv1d_scaling_probe.cpp (POSIX-only sys/resource.h)Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 88/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di mudler/vllm.cpp
Issue simili
-
`enzymexla.linalg.lu` lowering fails for a tall matrix: the permutation is built with the pivot typeAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
EnzymeAD/Enzyme-JAX#3286 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
apache/iceberg-cpp#973 ·
I maintainer di solito rispondono entro 1 giorno
-
Add c++23 mapping to nvccApertafeature request
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 86/100
I maintainer di solito rispondono entro 2 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 1 giorno