NVIDIA-NeMo/Speech

NGPU-LM with ONNX model inference

Aberta

#14.501 aberto em 18 de ago. de 2025

Ver no GitHubGuia do colaborador
 (0 comentário) (0 reação) (1 responsável)Python (3.527 forks)github user discovery
ASRhelp wanted

Métricas do repositório

Stars
 (17.872 estrelas)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

How can I perform inference with my ONNX-exported Fast-Conformer model using CTC decoding and NGPU-LM beam search?

Guia do colaborador

Direção de pesquisa
Procure exemplos de inferência de modelo ONNX com decodificador CTC e busca em feixe NGPU LM no NeMo; verifique a documentação para integração NGPU LM com modelos ONNX; rastreie o pipeline de inferência para identificar etapas de configuração.
Pilha de tecnologia
python
Domain
machine learningai
Tipo Issue
Pesquisa
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 horas
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
PythonONNXCTC decoding
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60