ggml-org/llama.cpp

Feature Request: support Qwen3-omni, Qwen3-TTS and MiniCPM-o

Open

#17 634 ouverte le 1 déc. 2025

Voir sur GitHub
 (14 commentaires) (29 réactions) (0 assignés)C++ (18 202 forks)batch import
Review Complexity : Highenhancementgood first issuehelp wantedmtmdtts

Métriques du dépôt

Stars
 (110 169 stars)
Métriques de merge PR
 (Merge moyen 5j 11h) (457 PRs mergées en 30 j)

Description

Prerequisites

  • I am running the latest code. Mention the version if possible as well.
  • I carefully followed the README.md.
  • I searched using keywords relevant to my issue to make sure that I am creating a new issue that is not already open (or closed).
  • I reviewed the Discussions, and have a new and useful enhancement to share.

Feature Description

support qwen omni audio generator

Motivation

currently omni can work but it does not provide a whisper-like api for tts and it does not support asr.

Possible Implementation

https://github.com/ggml-org/llama.cpp/issues/16885 https://github.com/ggml-org/llama.cpp/issues/16186 https://github.com/ggml-org/llama.cpp/issues/11347

Guide contributeur

Direction de recherche
Examinez les problèmes liés et le code existant pour la prise en charge TTS/ASR dans llama.cpp. Comprenez les architectures des modèles Qwen3 omni, Qwen3 TTS et MiniCPM o. Identifiez les modifications nécessaires dans le pipeline d'inférence et le traitement audio.
Stack technique
cpp
Domaine
backendapiai
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
4
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Plus d'une semaine
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
C++Git
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
25