Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

fix(BACKEND-ROCM-ATTN-GATE-SPLIT): identify the actual F16 head in the forward test

Aperta
  • Qualcosa non va?
#3,112 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
65/100
Tipo di issue
Bug
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
cpp
Ambito
backend, testing-qa

Direzione di ricerca

Inizia da .agents/specs/rocm-attn-gate-split.md, poi esamina tests/vllm/test_gguf_keep_quant.cpp::F16ForwardObservation::Observe e i test F16 forward circostanti. Modifica ed esegui il commit del design del test circoscritto prima di cambiare il witness. Il lavoro è completato quando entrambe le modalità tied mantengono l’asserzione exact-one, i fixture correnti e il confronto numerico, e falliscono quando vengono rimossi l’actual head observation o l’F16 head marker.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Row: BACKEND-ROCM-ATTN-GATE-SPLIT

The F16 production forward observer identifies an LM-head multiplication solely by its output width in tests/vllm/test_gguf_keep_quant.cpp::F16ForwardObservation::Observe. The unchanged gated fixture has four other projection calls with that width. After the missing ROCm AttnGateSplit provider and zero rotary-width handling are repaired, both tied and untied cases report five marked heads against the exact-one assertion.

The operator ran the complete frozen HIP target. It reports 58 cases, 57 passing cases, 10,934 passing assertions, and exactly two head-count failures. Retained and expanded F16 logits match and are finite. The frozen evidence is /home/vikash/.cache/rocm-attn-gate-split-impl/green-focused/gguf-production-full-operator.log, SHA256 cf9cd125bce34008bba2bfd0e51f6fbd018facbc552c31e21a5f0f57fdc89d1a. The command and sealed inputs are retained beside it.

Replace the width-only witness with an exact production head witness. Keep the exact-one assertion, all current model and fixture bytes, both tied modes, default native providers, and retained-versus-expanded numerical comparison. Prove that removing the actual head observation or F16 head marker fails the gate. Do not increase the expected count, loosen the assertion, or alter vocabulary dimensions to hide the collision.

The owning child spec is .agents/specs/rocm-attn-gate-split.md. Amend and commit the scoped test design before implementing this in-flow repair. Parent F16 issue #3092 and split issue #3106 remain separately owned. This issue closes with the reviewed change that repairs this test witness.

Lingua principale
C++
Stelle
423
Fork
53
Merge medio
1g 7h
PR unite (30g)
380

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di mudler/vllm.cpp

Tutte le issue di mudler/vllm.cpp

Issue simili

Altre issue su C++

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.