OPD做步数蒸馏的疑问
維護者通常 1 天內回覆
還沒有人認領這個 Issue。
評估
- 難度
- 4/5
- 預估耗時
- 3-5 天
- 新手友好度
- 30/100
- Issue 類型
- 文件
- 描述清晰度
- 需要釐清
- 活躍度
- 活躍
- 技術堆疊
- machine-learning, python
研究方向
Read the OPD implementation in DiffSynth-Studio, locate align_sigmas and the scheduler that updates to sigma=0. Reproduce the 8-to-3 step distillation with Qwen-Image-2.1-Turbo to see the teacher path difference; answer why the first method is used over strict interval matching.
由索引模型根據 Issue 內容生成。
描述
我在阅读 OPD 实现时注意到,align_sigmas 选取了学生当前区间内的教师节点,但 scheduler 会将最后一步直接更新到 sigma=0。
以Qwen-Image-2.1-Turbo的8步蒸馏到3步为例子,学生当前区间为 1 → 0.845148,教师实际执行的却是 1 → 0.978453 → 0.954180 → 0.926626 → 0.895080 → 0,然后用起始 sigma 归一化得到速度目标。
下面的表格写了两种方法,为什么diffsynth采用第一种方法,而不是“严格区间匹配”这种做法?第一种方法效果更好嘛?
| 方案 | 教师积分路径 | 最后一次教师前向的位置 |
|---|---|---|
| diffsynth当前实现 | 1 → .978453 → .954180 → .926626 → .895080 → 0 | .895080 |
| 严格区间匹配 | 1 → .978453 → .954180 → .926626 → .895080 → .845148 | .895080 |
- 主要語言
- Python
- 星號
- 13.3k
- 分支
- 1.3k
- 平均合併
- 1 天 14 小時
- 30 天內合併 PR
- 43
環境準備
這個專案沒有提供開發容器、Dockerfile 或貢獻指南,環境需要你自己搭建:先看它的 README,通用步驟見我們的新手貢獻指南。
從這裡開始
- 先讀完整個 Issue,再讀專案的貢獻指南。
- 在 Issue 下留言說明你要接手 —— 這能避免兩個人做同樣的事。
- Fork 儲存庫,在一個分支上完成修改。
- 送出 Pull Request,並在描述裡引用這個 Issue 編號。
modelscope/DiffSynth-Studio 的其他 Issue
-
Partial download surfaces as "Cannot detect the model type" rather than a download error可能重新可做 關聯的 PR 已關閉且未合併。 未關閉
難度 1/5 1-3 小時 新手友好度 78/100
modelscope/DiffSynth-Studio#1668 ·
維護者通常 1 天內回覆
-
bfloat16训练时段错误: 数组越界的一种方案可能重新可做 關聯的 PR 已關閉且未合併。 未關閉
難度 2/5 1-3 小時 新手友好度 72/100
modelscope/DiffSynth-Studio#1499 · 1 則留言 ·
維護者通常 1 天內回覆
-
難度 1/5 1 小時以內 新手友好度 78/100
modelscope/DiffSynth-Studio#1373 · 5 則留言 · 1 個 reaction ·
維護者通常 1 天內回覆
-
minimax Ref2V 训练报错问题可能已有人在做 關聯的 PR 仍在進行中或已合併。 未關閉
難度 3/5 1-2 天 新手友好度 48/100
modelscope/DiffSynth-Studio#1790 ·
維護者通常 1 天內回覆
-
難度 5/5 一週以上 新手友好度 25/100
modelscope/DiffSynth-Studio#1785 ·
維護者通常 1 天內回覆
查看 modelscope/DiffSynth-Studio 的全部 Issue
相似的 Issue
-
infrastructure
難度 2/5 1-3 小時 新手友好度 76/100
NatLabRockies/H2Integrate#977 ·
維護者通常 1 天內回覆
-
bug
難度 2/5 1-3 小時 新手友好度 72/100
topoteretes/cognee#6470 · 1 則留言 ·
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 62/100
-
area:docs priority:p2 type:docs wave:9
難度 1/5 1 小時以內 新手友好度 84/100
jejjohnson/radtrax#293 ·
維護者通常 1 天內回覆
-
bug core plugins
難度 2/5 1-3 小時 新手友好度 68/100
bunkerity/bunkerweb#4121 · 1 則留言 ·
維護者通常 1 天內回覆