Hacktoberfest 2026: die Issues, die Maintainer für den Oktober markiert haben – offen und einsteigerfreundlich. Hacktoberfest-Issues durchsuchen

[Reproducibility] Training script / config for MiniMax-H3-TrainingAdapter (DeCFG adapter) itself

Offen
  • Stimmt etwas nicht?
#1,713 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 1 Tag

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Anfängerfreundlichkeit
35/100
Issue-Typ
Dokumentation
Klarheit
Größtenteils klar
Aktivitätsstatus
Aktiv
Tech-Stack
python
Bereich
documentation, machine-learning

Rechercherichtung

Start with examples/minimax_h3/model_training/train.py and the scripts under examples/minimax_h3/model_training/lora/, then trace how preset_lora_path and preset_lora_model are consumed. Done means documenting or adding the adapter-training command, data selection, objective, hyperparameters, checkpoint choice, and weight conversion well enough to reproduce the named adapter files.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

Hi, and thanks for open-sourcing the MiniMax-H3 work.

I'd like to reproduce the training adapter itself — https://modelscope.ai/models/DiffSynth-Studio/MiniMax-H3-TrainingAdapter — not the downstream LoRAs.

What I've already found in the repo

  • examples/minimax_h3/model_training/train.py and the two-stage sft:data_process → sft:train workflow.
  • The .sh scripts under examples/minimax_h3/model_training/lora/ (e.g. MiniMax-H3-Pruned-FL2VA.sh, the Ref2VA variants). These train downstream LoRAs and reference the adapter only as an optional --preset_lora_path / --preset_lora_model "dit" to fuse in during training.
  • The base weights (Comfy-Org/MiniMax-H3, MiniMax/MiniMax-H3) and the MiniMax-H3-Self-Generated-Dataset.

What I can't find
A script or config that produces the adapter itself (the rank-64 DeCFG LoRA, FL2VA and Ref2VA variants) from the CFG-distilled base + the self-generated dataset. The example scripts consume the adapter rather than create it.

Could you share the following for the adapter's own training?

  1. The exact training script / command (equivalent .sh) used to produce model_for_comfy_dit.safetensors and model_ref2va_for_comfy_dit.safetensors.
  2. The DeCFG / "differential training" details — what the objective is and how it differs from standard SFT LoRA training (loss formulation, any CFG/DeCFG-specific handling, timestep sampling/shift).
  3. Hyperparameters: LoRA rank (64?) and target modules, learning rate, batch size, number of steps/epochs, dataset_repeat, resolution / num_frames, audio_loss_weight, optimizer/schedule, and seed if fixed.
  4. Which subset/split of MiniMax-H3-Self-Generated-Dataset was used, and whether the released dataset is the complete training set or a sample.
  5. Base checkpoint used as the starting point (the pruned bf16 DiT, or another), plus any pre/post-processing of the adapter weights (e.g. the ComfyUI qkv layout conversion).

Happy to open a PR to add a reproduction script/README under examples/minimax_h3/ if that's easier on your side. Thanks!

Vorherrschende Sprache
Python
Sterne
13.2k
Forks
1.3k
Ø Merge
3 T. 17 Std.
Gemergte PRs (30 T.)
32

Entwicklungsumgebung

Dieses Projekt bietet weder Dev-Container noch Dockerfile noch Beitragsleitfaden – die Einrichtung liegt bei Ihnen. Beginnen Sie mit der README; die allgemeinen Schritte stehen in unserem Leitfaden für den ersten Beitrag.

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus modelscope/DiffSynth-Studio

Alle Issues in modelscope/DiffSynth-Studio

Ähnliche Issues

Weitere Issues zu Python

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.