Flux Control and HunyuanVideo LoRA converters swap the scale/shift halves of `lora_A` in `final_layer`

Aperta
#15,305 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

@MaiAditya ci sta già lavorando.

Dal 16/11/2026.

  • #15307 di @MaiAditya — aperta

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
35/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Ferma
Stack tecnologico
python, pytorch

Direzione di ricerca

Read loaders/lora_conversion_utils.py and the existing test_lora_bfl_final_layer_modulation test. The issue identifies both affected converters and proposes one test per converter, checking that only lora_B is swapped; run those tests to confirm the converted delta matches the expected scale/shift order. A pull request is already open for this issue.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Describe the bug

final_layer.adaLN_modulation.1 in the original checkpoints orders its output (shift, scale), and diffusers' norm_out.linear orders it (scale, shift), so the converters swap the two halves. For a LoRA only lora_B should be swapped: its rows are the layer's outputs. lora_A is (rank, in), so swapping its halves reorders the rank dimension and the converted delta is wrong.

Two converters in loaders/lora_conversion_utils.py swap both:

  • _convert_bfl_flux_control_lora_to_diffusers: swap_scale_shift is applied for every lora_key, including lora_A (weight and bias).
  • _convert_hunyuan_video_lora_to_diffusers: remap_norm_scale_shift_ swaps every final_layer.adaLN_modulation.1 key, lora_A included.

The kohya Flux converter already swaps only lora_B. This is the same class of bug #15276 fixed for Flux2.

Reproduction
import torch
from diffusers.loaders.lora_conversion_utils import _convert_bfl_flux_control_lora_to_diffusers

RANK, INNER = 4, 3072
torch.manual_seed(0)

class FillingDict(dict):
    # dummy tensors for the keys the converter pops that this repro doesn't care about
    def pop(self, key, *default):
        if key in self:
            return super().pop(key)
        if default:
            return default[0]
        return torch.zeros(21504, RANK) if ".lora_B." in key else torch.zeros(RANK, 8)

lora_A = torch.randn(RANK, INNER)
lora_B = torch.randn(2 * INNER, RANK)  # rows: (shift, scale)
sd = FillingDict({
    "final_layer.adaLN_modulation.1.lora_A.weight": lora_A.clone(),
    "final_layer.adaLN_modulation.1.lora_B.weight": lora_B.clone(),
    "double_blocks.0.img_attn.norm.query_norm.scale": torch.ones(1),
})
out = _convert_bfl_flux_control_lora_to_diffusers(sd)
A = out["transformer.norm_out.linear.lora_A.weight"]
B = out["transformer.norm_out.linear.lora_B.weight"]
shift, scale = (lora_B @ lora_A).chunk(2, dim=0)
expected = torch.cat([scale, shift])
print(torch.allclose(B @ A, expected, atol=1e-4), (B @ A - expected).abs().max().item())
print(torch.allclose(B @ lora_A, expected, atol=1e-4))  # lora_A left as is
Logs
False 39.052650451660156
True

The HunyuanVideo converter gives the same result (max error 17.05 in the equivalent check).

System Info

diffusers main @ 43e3002, torch 2.15.0, Python 3.12, macOS (CPU).

Who can help?

@sayakpaul

I have a fix with tests for both converters (swap only lora_B; one test per converter in the style of test_lora_bfl_final_layer_modulation, both fail on main) and can open a PR if you'd like. It may change the expected slices of the slow Flux Control LoRA integration tests, which I can't regenerate without a GPU.

Lingua principale
Python
Stelle
34.9k
Fork
7.5k
Merge medio
3g 16h
PR unite (30g)
65

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di huggingface/diffusers

Tutte le issue di huggingface/diffusers

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.