[MiniMax-H3] Load the pruned ComfyUI checkpoints and add single-file support for MiniMax-H3-Image
Mantenedores costumam responder em até 1 dia
Avaliação
- Dificuldade
- 4/5
- Tempo estimado
- 3-5 dias
- Facilidade para iniciantes
- 28/100
- Tipo de issue
- Funcionalidade
- Clareza
- Razoavelmente clara
- Status de atividade
- Ativa
- Domínio
- machine-learning
Direção de pesquisa
The referenced implementation is PR #15299, already open, so start by reading that diff rather than the issue text alone. The transformers live under src/diffusers/models/transformers/ (MiniMaxH3Transformer3DModel, MiniMaxH3ImageTransformer2DModel), and the single-file mapping is in src/diffusers/loaders/single_file_model.py plus the MiniMax-H3 original-config file in single_file_utils.py. The open design question — whether a new config_from_checkpoint_fn key in the single-file registry is acceptable — needs a maintainer answer before any patch, and done means a pruned ComfyUI checkpoint loads through from_single_file with tests covering the unstripped config path.
Escrita pelo modelo de indexação a partir do texto da issue.
Descrição
Is your feature request related to a problem? Please describe.
ComfyUI distributes pruned MiniMax-H3 checkpoints (Comfy-Org/MiniMax-H3, Comfy-Org/MiniMax-H3-Image). They cannot be loaded in diffusers today:
- The pruned files replace the timestep MLP and the wide AdaLN projections (about 40% of the parameters) with the activated timestep curve sampled on a 1025-point grid (
adaln_t_table) and 8-input AdaLN projections.MiniMaxH3Transformer3DModelhas no module that matches these weights, andfrom_single_filerefusesadaln_t_table. MiniMaxH3ImageTransformer2DModelhas no single-file support at all (noFromOriginalModelMixin), and the ComfyUI file stores the PDD heads as a stacked bank (head 0 plus per-step offsets) rather than aspdd_proj_out.{i}.
Describe the solution you'd like.
- An opt-in config field (
adaln_curve_grid) on both transformers. When set,time_embedderis a lookup of the sampled curve, linearly interpolated as ComfyUI does, and the AdaLN projections skip their SiLU. Stock configs keep their current behaviour. from_single_filefor both transformers: mapadaln_t_tableto the table, unstack the PDD head bank for the image model, and refuse quantized ComfyUI files with a message naming the bf16 file.
transformer = MiniMaxH3ImageTransformer2DModel.from_single_file(
"https://huggingface.co/Comfy-Org/MiniMax-H3-Image/blob/main/diffusion_models/minimax_h3_image_pruned_bf16.safetensors",
dtype=torch.bfloat16,
)
Design question for maintainers
The repository config on the Hub describes the unpruned model, and no Hub repo carries a pruned diffusers config that a model type could point at. So the pruned shape (adaln_curve_grid, time_embed_dim) has to be read off the checkpoint itself. #15299 does this with a new optional key in the single-file registry, config_from_checkpoint_fn. Is a new registry key acceptable here, or would you prefer another route (for example a separate model type with its own config)?
Additional context.
Implementation proposed in #15299.
- Linguagem predominante
- Python
- Estrelas
- 34.9k
- Forks
- 7.5k
- Merge médio
- 3d 16h
- PRs com merge (30d)
- 65
Preparar o ambiente
- Sem Dockerfile nem arquivo Docker Compose
- Tem um modelo de pull request
- Ler o guia de contribuição
Primeiros passos
- Leia a issue inteira e depois o guia de contribuição do projeto.
- Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
- Faça um fork do repositório e trabalhe em uma branch.
- Abra um pull request que referencie o número da issue.
Mais de huggingface/diffusers
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 84/100
huggingface/diffusers#15363 ·
Mantenedores costumam responder em até 1 dia
-
`ZImageImg2ImgPipeline` / `ZImageInpaintPipeline`: explicit height/width different from the input image raises RuntimeErrorTalvez já em andamento @chessing234 assumiu há 1 dia. Abertabug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 70/100
huggingface/diffusers#15337 · 2 comentários ·
Mantenedores costumam responder em até 1 dia
-
Multi-vector textual inversion uses only the first vector when the token has uppercase letters (transformers v5)Talvez já em andamento @sunhouy assumiu há 2 dias. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 75/100
huggingface/diffusers#15313 ·
Mantenedores costumam responder em até 1 dia
-
TCDScheduler advances the generator on the final step of a strength-truncated custom scheduleTalvez já em andamento @SIDDARTHAREDDY8 assumiu há 5 dias. Abertabug
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 74/100
huggingface/diffusers#15288 · 2 comentários ·
Mantenedores costumam responder em até 1 dia
-
unload_textual_inversion(token) leaves the extra tokens of a multi-vector embedding behind, so it can't be loaded againTalvez já em andamento @sohailshk assumiu há 11 dias. Aberta
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 72/100
huggingface/diffusers#15211 · 3 comentários ·
Mantenedores costumam responder em até 1 dia
Todas as issues de huggingface/diffusers
Issues semelhantes
-
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 73/100
Mantenedores costumam responder em até 1 dia
-
Unused loot bag group names left in dreamcraft en_US.langTalvez já em andamento Um pull request vinculado a esta issue está aberto ou já foi mesclado. AbertaStatus: Triage Suggestion
Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 90/100
GTNewHorizons/GT-New-Horizons-Modpack#27789 ·
Mantenedores costumam responder em até 1 dia
-
bug frontend sev-5
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 83/100
-
core good first issue
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 65/100
-
b4b code health next
Dificuldade 2/5 1-3 horas Facilidade para iniciantes 68/100
ESCOMP/CTSM#4330 · 1 comentário ·
Mantenedores costumam responder em até 1 dia