mx check: add a per-element bound like check_quant's
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 58/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Attiva
- Stack tecnologico
- python
- Ambito
- machine-learning
Direzione di ricerca
Find the implementation of check_mx and the existing check_quant per-element bound, including how viol_frac handles affine quantization. Start by tracing how check_mx obtains each group’s E8M0 scale and applies its current error-ratio and rank-1 checks. Add a count for elements beyond half a step, using one step at the clipped edge, and check the affected cases against the reported clean and edited matrices.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
From the review of https://github.com/STRML/quantdiff/pull/1 (P2). check_mx judges an mxfp8/mxfp4 tensor on its error ratio and one-direction share only. Against a bf16 upstream, a sparse edit can stay under 1.5x the error norm, and its rank-1 share fades on large matrices: on a 64x256 matrix, 1 and 8 edited elements tripped only the rank-1 test (30% and 13% against 3% clean). The mx step is known from each group's E8M0 scale, so an element past half a step (one step at the clipped edge) can be counted the way `viol_frac" does for affine quants. FP8-to-mxfp8 and FP4-to-mxfp4 are unaffected: any difference already flags.
- Lingua principale
- Python
- Stelle
- 0
- Fork
- 0
- Merge medio
- 5m
- PR unite (30g)
- 3
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di STRML/quantdiff
-
Diffing an FP8 pack against its own FP8 upstream exits 2 with an opaque errorForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 54/100
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 44/100
-
Stacked experts: fetch only the sampled expert slices, count decoded bytes in the prefetch budgetAperta
Difficoltà 4/5 1-2 giorni Idoneità per principianti 48/100
Tutte le issue di STRML/quantdiff
Issue simili
-
priority middle
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 62/100
KATO-Hiro/AtCoderClans#12940 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 76/100
huggingface/huggingface_hub#5283 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
enhancement
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 86/100
ccxt/ccxt#31045 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
bug example
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
I maintainer di solito rispondono entro 1 giorno