Hessian-calibrated quants trip the per-element bound on every tensor
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Anfängerfreundlichkeit
- 44/100
- Issue-Typ
- Feature
- Klarheit
- Größtenteils klar
- Aktivitätsstatus
- Aktiv
- Tech-Stack
- python
- Bereich
- machine-learning
Rechercherichtung
Start by reading the quantdiff code that calculates per-element bounds and produces the verdict; the issue does not name specific files or tests. Reproduce the linked pull request's report and trace how the error ratio and rank-1 share are calculated. Done means Hessian-calibrated weights can be reported with a clear explanation when those measures are clean, either by adjusting the verdict or adding a --calibrated mode.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Found in the real run posted on https://github.com/STRML/quantdiff/pull/7: all 23 affine tensors of ddalcu/DeepSeek-V4.1-Flash-1017-MLX-Serve-iQ-MLX-3.0bpw flagged for 1-6% of elements past half a quant step, while their error stayed at most 1.09x a clean re-quantization (median 0.99x) and their one-direction excess at most 0.0007. The pack rounds with Hessians from the released model's activations (GPTQ-style), which moves weights past the nearest grid point on purpose. Options: report the bound without flagging when the error ratio and rank-1 share are both clean, or a --calibrated mode. Either way the verdict should say why.
- Vorherrschende Sprache
- Python
- Sterne
- 0
- Forks
- 0
- Ø Merge
- 5 Min.
- Gemergte PRs (30 T.)
- 3
Entwicklungsumgebung
Dieses Projekt bietet weder Dev-Container noch Dockerfile noch Beitragsleitfaden – die Einrichtung liegt bei Ihnen. Beginnen Sie mit der README; die allgemeinen Schritte stehen in unserem Leitfaden für den ersten Beitrag.
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus STRML/quantdiff
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 54/100
-
Stacked experts: fetch only the sampled expert slices, count decoded bytes in the prefetch budgetOffen
Schwierigkeit 4/5 1-2 Tage Anfängerfreundlichkeit 48/100
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 58/100
Alle Issues in STRML/quantdiff
Ähnliche Issues
-
ready-for-agent tooling
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
KRoperUK/smeg-plus-patches#249 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
monzta1/ToneCommand#293 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
oracle/graalvm-reachability-metadata#11318 ·
Maintainer antworten meist innerhalb von 1 Tag
-
area: parser bug difficulty: easy
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
hayagrivai-labs/phantom#150 ·
Maintainer antworten meist innerhalb von 1 Tag
-
test: cover markdown.py summary items in numeric difference table and fallback number escapingOffendifficulty: easy good first issue help wanted mentor available testing
Schwierigkeit 1/5 1-3 Stunden Anfängerfreundlichkeit 88/100
hayagrivai-labs/sciproof#179 ·
Maintainer antworten meist innerhalb von 1 Tag