pytorch/vision

ROCM version is slow

Open

#2.682 aberto em 17 de set. de 2020

Ver no GitHub
 (7 comments) (0 reactions) (0 assignees)Python (6.858 forks)batch import
help wantedmodule: rocm

Métricas do repositório

Stars
 (15.050 stars)
Métricas de merge de PR
 (Mesclagem média 12d 8h) (14 fundiu PRs em 30d)

Description

🐛 Bug

Inference speed is abysmal - way slower than cpu. It works as expected on NVidia. I'm not really sure whether this is torch vision or torch itself at fault.

To Reproduce

Steps to reproduce the behavior:

  1. Dockerfile: https://gist.github.com/boniek83/0bbf858a24961816557c522007a11c11
  2. Lab: https://github.com/timesler/facenet-pytorch/blob/master/examples/infer.ipynb
  3. Data for lab: https://github.com/timesler/facenet-pytorch/tree/master/data/test_images

Expected behavior

Performance should be competitive.

Environment

  • PyTorch / torchvision Version (e.g., 1.0 / 0.4.0): 1.6.0 / 0.7.0
  • OS (e.g., Linux): CentOS 7.8
  • How you installed PyTorch / torchvision (conda, pip, source): source
  • Build command you used (if compiling from source): see Dockerfile above
  • Python version: 3.6
  • GPU models and configuration: Radeon VII
  • Any other relevant information: ROCK 3.7 during runtime

cc @iotamudelta @ashishfarmer

Guia do colaborador

Direção de pesquisa
Profile a inferência no ROCm vs CPU/NVIDIA usando ferramentas de profiling do PyTorch e profilers específicos do ROCm, como rocprof. Identifique se o gargalo está nas operações do torch ou torchvision. Verifique a compatibilidade da versão ROCm e possíveis otimizações ausentes.
Pilha de tecnologia
python
Domain
computer vision
Tipo Issue
Bug
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Precisa de investigação
Prerequisites
PythonPyTorchROCm
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
40