[BUG] ZenFlow Stage 3 with `full_warm_up_rounds=0` fails due to missing `complete_column_offset` attribute

Aperta
#7,796 0 commenti 0 reazioni 1 assegnatario Vedi su GitHub

I maintainer di solito rispondono entro 2 giorni

@Antlera ci sta già lavorando.

Dal 20/1/2026.

Valutazione

Questa issue non è ancora stata valutata.

Descrizione

bug training

Describe the bug
When running Stage 3 with full_warm_up_rounds=0, the training fails with the following error:
AttributeError: 'Parameter' object has no attribute 'complete_column_offset'

This seems to be related to attribute propagation or initialization during parameter setup.
Thanks @tohtana for pointing this out in the PR #7793.


To Reproduce
Steps to reproduce the behavior:

  1. Configure Stage 3 with full_warm_up_rounds=0
  2. Launch training as usual
  3. Observe the AttributeError during backward or parameter initialization

Expected behavior
Training should run normally without attribute errors, even when full_warm_up_rounds=0.


Additional context
This likely needs a small fix in attribute initialization or propagation logic.
I’ll open a follow-up PR once the root cause is confirmed.

Lingua principale
Python
Stelle
43.3k
Fork
5.1k
Merge medio
4g 7h
PR unite (30g)
66

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di deepspeedai/DeepSpeed

Tutte le issue di deepspeedai/DeepSpeed

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.