ggml-org/llama.cpp

GGUF convert support for Vibevoice

Open

#17.488 geöffnet am 25. Nov. 2025

Auf GitHub ansehen
 (3 Kommentare) (1 Reaktion) (0 zugewiesene Personen)C++ (110.169 Stars) (18.202 Forks)batch import
3rd partyenhancementgood first issuehelp wantedmodeltts

Beschreibung

Hey there! I am trying to convert my fine-tuned vibevoice into a gguf format for inference but cant find proper code or converter any where. The architecture is currently unsupported to any known converter like llama.cpp but I have already seen many variation of gguf-formated vibevoice. Can anyone help me with that?

Contributor Guide

Tech Stack
cpp
Domain
backendmachine learning
Issue Type
feature
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
5
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
over 1 week
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
needs maintainer response
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
unclear
Voraussetzungen
Keine
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
10
Research-Richtung
This issue requests support for the 'Vibevoice' model architecture in GGUF format. To implement, one must first understand the Vibevoice model architecture and its compatibility with the GGUF format. Existing conversion scripts in the llama.cpp repository (like convert.py) should be studied as reference. The model's architecture may require adding a new model type in the C++ inference code. There are no linked PRs or comments providing further details, so the contributor should start by researching the architecture and proposing a design.