kaldi-asr/kaldi

Pytorchnn support multi-gpus

Open

#4.468 aberto em 4 de mar. de 2021

Ver no GitHub
 (6 comments) (0 reactions) (0 assignees)Shell (5.359 forks)batch import
enhancementhelp wanted

Métricas do repositório

Stars
 (15.392 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

Pytorchnn only uses one gpu. It's very inefficient when training a large amount of text.

Guia do colaborador

Direção de pesquisa
A questão solicita a extensão do módulo Pytorchnn do Kaldi para utilizar múltiplas GPUs. Comece examinando a implementação atual de GPU única no código fonte (provavelmente em src/pytorchnn/). Pesquise os módulos DataParallel e DistributedDataParallel do PyTorch. Verifique os comentários da issue para quaisquer abordagens sugeridas ou indicações dos mantenedores. Em seguida, proponha um design que integre o suporte a múltiplas GPUs sem quebrar a funcionalidade existente.
Pilha de tecnologia
None
Domain
backendmachine learning
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
4
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
3-5 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Antigo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
CUDAGPU programming
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30