Reject non-finite values in the native HRX numerical comparator
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 78/100
- Tipo de issue
- Error
- Claridad
- Bien especificado
- Estado de actividad
- Activo
- Stack tecnológico
- cpp
- Área
- backend, testing-qa
Línea de trabajo
Comienza en tests/test-hrx-ops.cpp:636 y lee el comparador alrededor de las comprobaciones de tolerancia absoluta y relativa existentes. Vuelve a ejecutar el fixture de atención secuencial e inmutable de Qwen de .agents/specs/rocm-hrx-prefill-repair-3083.md, usando como contexto las evidencias conservadas. Se considera terminado cuando los valores HRX o esperados no finitos producen un resultado distinto de cero, mientras que las comparaciones finitas mantienen las tolerancias del upstream.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Row: BACKEND-ROCM
The pinned AMD llama.cpp HRX test comparator accepts NaN as numerically close. tests/test-hrx-ops.cpp:636 rejects only diff > allowed; abs(NaN) makes that comparison false. The #3083 sequential Qwen attention regression therefore returned exit 0 while all three decode outputs reported HRX NaN and finite CPU values.
The BACKEND-ROCM operator and #3083 implementer own the in-flow correction in .agents/specs/rocm-hrx-prefill-repair-3083.md. Require finite actual and expected values before applying the unchanged upstream absolute and relative tolerances. Re-run the same immutable sequential fixture and retain its nonzero result before any runtime repair.
The original false-pass evidence is retained in /home/vikash/vllm.cpp-hrx-evaluation/build-hrx-evaluation/native-prefill-repaired-decode-numerics. The test ELF was d52fe52e80be01901f709ea141d833f03955791162b2ad5427122c8d32ef47e6; the backend and #3081 Loom provider were unchanged. At the first decode, HRX returned NaN and CPU returned approximately -0.00393766. Prefill output had passed the finite numerical comparison.
Scope is the test comparator and its evidence. This issue does not claim to repair the separately diagnosed runtime source of NaN. The #3083 pull request will carry this correction and close this issue when it lands.
- Lenguaje dominante
- C++
- Estrellas
- 423
- Forks
- 53
- Merge medio
- 1 d 5 h
- PR fusionados (30 d)
- 376
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de mudler/vllm.cpp
-
[Windows] full build fails in tools/bench/conv1d_scaling_probe.cpp (POSIX-only sys/resource.h)Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 1 día
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
Los mantenedores suelen responder en 1 día
Todos los issues de mudler/vllm.cpp
Issues similares
-
bug
Dificultad 1/5 1-3 horas Aptitud para principiantes 88/100
isl-org/Open3D#7585 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
Unconfirmed bug
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
luanti-org/luanti#17605 · 1 comentario ·
Los mantenedores suelen responder en 2 días
-
area: config area: firmware priority: P2 - medium size: S type: bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
Mizithra/ActiveTerrain#16 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
grumpycoders/pcsx-redux#2171 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 2 días