NVIDIA-NeMo/Speech

NGPU-LM with ONNX model inference

Offen

#14.501 geöffnet am 18.08.2025

Auf GitHub ansehenContributor Guide
 (0 Kommentare) (0 Reaktionen) (1 zugewiesene Person)Python (3.565 Forks)github user discovery
ASRhelp wanted

Repository-Metriken

Stars
 (18.182 Sterne)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

How can I perform inference with my ONNX-exported Fast-Conformer model using CTC decoding and NGPU-LM beam search?

Contributor Guide

Research-Richtung
Suchen Sie nach Beispielen für die ONNX Modellinferenz mit CTC Decoder und NGPU LM Beamsuche in NeMo; überprüfen Sie die Dokumentation zur Integration von NGPU LM mit ONNX Modellen; verfolgen Sie die Inferenz Pipeline, um Konfigurationsschritte zu identifizieren.
Tech Stack
python
Domain
machine learningai
Issue Type
Recherche
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
PythonONNXCTC decoding
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60