Two-stage pipeline compatibility after full SFT of LTX2 base model
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- python
- Ambito
- machine-learning
Direzione di ricerca
Read the project's two-stage training and inference guidance, focusing on how stage 1 full-model SFT interacts with the stage-2 LoRA trained on the original base model. The issue asks whether that combination is compatible and how to adapt stage 2 after full SFT; done means maintainers clarify the expected workflow or recommend a training strategy.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Hello authors,
First of all, thank you very much for your excellent work and for open-sourcing the project — it is truly impressive!
We have an urgent question regarding the two-stage training / inference pipeline, and we would greatly appreciate your clarification and guidance.
Currently, we are trying to perform full-model SFT on the LTX2 base model (i.e., updating all parameters instead of using LoRA in stage 1). However, we noticed that the generation quality differs significantly between the stage-1 pipeline and the stage-2 pipeline, especially in terms of visual fidelity / image quality.
This raises an important concern:
-
After fully fine-tuning the LTX2 base model, is it expected to directly use the provided stage-2 inference pipeline (which applies a stage-2 LoRA) for generation?
-
Or would the stage-2 LoRA become incompatible with the fully fine-tuned base model, since the LoRA was trained on the original base model distribution?
If incompatibility is expected, could you please recommend a proper training strategy for stage 2? For example: Are there any best practices or training configurations you would suggest for stage-2 adaptation after full SFT?
Thank you again for your time and support. We would be very grateful for any advice or insight!
- Lingua principale
- Python
- Stelle
- 10k
- Fork
- 1.6k
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Lightricks/LTX-2
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
Lightricks/LTX-2#336 · 1 commento ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100
Lightricks/LTX-2#335 · 3 commenti ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 34/100
Lightricks/LTX-2#334 ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100
Lightricks/LTX-2#318 ·
-
[Training Details of dubit]Aperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100
Lightricks/LTX-2#311 ·
Tutte le issue di Lightricks/LTX-2
Issue simili
-
bug
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
splunk/security_content#4418 ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug / Enhancement]: Improve teleop_robot CLI with configurable timeout, robust input validation, and clean ROS shutdownForse già presa @muskan-creates352 l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 3 giorni
-
bug(pipelines): shortcode stripping deletes text between a {{< >}} shortcode and the next {{% %}}Forse già presa @Ashborne-lab l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
kubeflow/docs-agent#293 ·
I maintainer di solito rispondono entro 3 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
Imbad0202/academic-research-skills#1093 ·
I maintainer di solito rispondono entro 1 giorno
-
Input: placeholder drawn in the text colour when the empty Input is focused but not yet editedAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
pierreaubert/gpui-toolkit#114 ·
I maintainer di solito rispondono entro 1 giorno