Diffing an FP8 pack against its own FP8 upstream exits 2 with an opaque error
還沒有人認領這個 Issue。
評估
- 難度
- 2/5
- 預估耗時
- 1-3 小時
- 新手友好度
- 76/100
- Issue 類型
- 缺陷
- 描述清晰度
- 描述清楚
- 活躍度
- 活躍
研究方向
閱讀候選項與上游的比較路徑,包括 issue 中提到的 DecodedBase 包裝器。檢查上游如何解碼,以及 torch.equal 在哪裡比較張量;候選項的 FP8 權重應遵循相同的解碼路徑,並一致地處理 .scale 張量。完成標準是:將候選項自身的 FP8 版面配置與其解碼後的上游進行比較時,不再引發型別提升錯誤,也不再回報其 scale 張量缺失。
由索引模型根據 Issue 內容生成。
描述
From the review of https://github.com/STRML/quantdiff/pull/1 (P2). A candidate in DeepSeek's own layout (raw FP8 weight + .scale) is compared raw against the decoded float32 upstream: torch.equal raises "Promotion for Float8 Types is not supported" and the run exits 2, and the candidate's .scale tensors show up as not in upstream. The candidate side should decode with the same DecodedBase wrapper as the upstream.
- 主要語言
- Python
- 星號
- 0
- 分支
- 0
- 平均合併
- 5 分鐘
- 30 天內合併 PR
- 3
環境準備
這個專案沒有提供開發容器、Dockerfile 或貢獻指南,環境需要你自己搭建:先看它的 README,通用步驟見我們的新手貢獻指南。
從這裡開始
- 先讀完整個 Issue,再讀專案的貢獻指南。
- 在 Issue 下留言說明你要接手 —— 這能避免兩個人做同樣的事。
- Fork 儲存庫,在一個分支上完成修改。
- 送出 Pull Request,並在描述裡引用這個 Issue 編號。
STRML/quantdiff 的其他 Issue
-
難度 2/5 1-3 小時 新手友好度 75/100
-
難度 3/5 1-2 天 新手友好度 54/100
-
難度 4/5 3-5 天 新手友好度 44/100
-
Stacked experts: fetch only the sampled expert slices, count decoded bytes in the prefetch budget未關閉
難度 4/5 1-2 天 新手友好度 48/100
-
難度 3/5 1-2 天 新手友好度 58/100
相似的 Issue
-
難度 2/5 1-3 小時 新手友好度 78/100
btclib-org/btclib-wallet#587 · 1 則留言 ·
維護者通常 1 天內回覆
-
documentation
難度 2/5 1-3 小時 新手友好度 68/100
Judgment-Pack/judgment-pack-spec#275 ·
維護者通常 1 天內回覆
-
ai-generated
難度 2/5 1-3 小時 新手友好度 77/100
維護者通常 1 天內回覆
-
documentation good first issue priority: low size: XS
難度 1/5 1-3 小時 新手友好度 92/100
yeongseon/azure-functions-doctor-python#651 ·
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 65/100
Changaco/python-libarchive-c#146 ·