open-mmlab/mmsegmentation

Too much GPU memory consumption and seems wrong

Aberta

#3.167 aberto em 6 de jul. de 2023

Ver no GitHubGuia do colaborador
 (18 comentários) (0 reação) (0 responsável)Python (2.386 forks)batch import
good first issue

Métricas do repositório

Stars
 (6.867 estrelas)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

When I use resnet101 with deeplabv3+ in this lib 'https://github.com/VainF/DeepLabV3Plus-Pytorch', I can train for 40 batch size on 2 GPUs, 20 batch size for each GPU, and it consumes about 36 GB. However, when I use your lib, for 2 batch size on 1 GPUs, it consumes about 15 GB

Guia do colaborador

Direção de pesquisa
Perfilhe o uso de memória GPU usando ferramentas como nvidia smi ou torch.cuda.memory summary, compare com DeepLabV3Plus Pytorch para identificar diferenças nas alocações de tensores ou gradient checkpointing.
Pilha de tecnologia
pythonpytorch
Domain
machine learningbackend
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
PythonPyTorchGPU memory profiling
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
40