huggingface/diffusers

Support multiple control nets in the `StableDiffusionControlNetXSPipeline`/`StableDiffusionXLControlNetXSPipeline`

Open

#8 434 ouverte le 7 juin 2024

Voir sur GitHub
 (9 commentaires) (0 réactions) (0 assignés)Python (4 562 forks)batch import
community-examplescontributions-welcomegood first issue

Métriques du dépôt

Stars
 (22 190 stars)
Métriques de merge PR
 (Merge moyen 13j 1h) (96 PRs mergées en 30 j)

Description

Is your feature request related to a problem? Please describe. The StableDiffusionControlNetPipeline/StableDiffusionXLControlNetPipeline allow you to specify a list of control nets (i.e. depth and canny)

However, the new ControlNetXS pipelines only allow you provide a single control net

Describe the solution you'd like. I want to be able to do:

vae = AutoencoderKL.from_pretrained("madebyollin/sdxl-vae-fp16-fix", torch_dtype=torch.float16)
canny_controlnet = ControlNetXSAdapter.from_pretrained(
    "UmerHA/Testing-ConrolNetXS-SDXL-canny", torch_dtype=torch.float16
)
depth_controlnet = ControlNetXSAdapter.from_pretrained(
    "UmerHA/Testing-ConrolNetXS-SDXL-depth", torch_dtype=torch.float16
)
pipe = StableDiffusionXLControlNetXSPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0", controlnet=[canny_controlnet, depth_controlnet], torch_dtype=torch.float16
)

Guide contributeur

Direction de recherche
Examinez la pipeline StableDiffusionControlNetPipeline existante pour comprendre comment elle gère une liste de controlnets. Étudiez les implémentations des pipelines ControlNetXS (StableDiffusionControlNetXSPipeline et StableDiffusionXLControlNetXSPipeline) pour identifier où ajouter la prise en charge de plusieurs controlnets. Concentrez vous sur les méthodes init et forward, et assurez vous que les paramètres conditionnels comme controlnet conditioning scale sont adaptés en conséquence.
Stack technique
pythonpytorch
Domaine
machine learningai
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonPyTorchfamiliarity with diffusers library
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
30