NVIDIA-NeMo/Speech

NGPU-LM with ONNX model inference

Ouverte

#14 501 ouverte le 18 août 2025

Voir sur GitHubGuide contributeur
 (0 commentaire) (0 réaction) (1 personne assignée)Python (3 563 forks)github user discovery
ASRhelp wanted

Métriques du dépôt

Stars
 (18 175 étoiles)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

How can I perform inference with my ONNX-exported Fast-Conformer model using CTC decoding and NGPU-LM beam search?

Guide contributeur

Direction de recherche
Cherchez des exemples d'inférence de modèles ONNX avec un décodeur CTC et une recherche par faisceau NGPU LM dans NeMo ; consultez la documentation pour l'intégration de NGPU LM avec les modèles ONNX ; tracez le pipeline d'inférence pour identifier les étapes de configuration.
Stack technique
python
Domaine
machine learningai
Type d'issue
Recherche
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Plutôt claire
Prérequis
PythonONNXCTC decoding
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60