pytorch/ignite

Tracking the metrics with performance gaps on XLA

Open

#2.109 aberto em 14 de jul. de 2021

Ver no GitHub
 (2 comments) (0 reactions) (0 assignees)Python (4.313 stars) (602 forks)batch import
HacktoberfestPyDataGlobalenhancementhelp wantedmodule: metrics

Description

🚀 Feature

Since this commit, the metrics have been disabled with xla device due to a performance regression.

https://github.com/pytorch/ignite/blob/7bdf92322a15ba0bea71ad76f3f785b7ea5907c3/ignite/metrics/metric.py#L224-L225

To solve this, it would be interesting to track which metrics work fine and which have lack of performance. Thus, we could think about more specific enable / disable process.

Guia do colaborador

Pilha de tecnologia
python
Domain
performancemachine learning
Tipo Issue
feature
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
4
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 days
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
needs investigation
Prerequisites
None
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
25
Direção de pesquisa
Investigate the referenced commit 002b595daa8a8345286c5e096c33e278948686a7 to understand why metrics were disabled on XLA. Examine the code in ignite/metrics/metric.py lines 224-225 to identify the performance regression. Then, measure which metrics (e.g., Accuracy, Loss) perform well on XLA and which cause slowdowns. The goal is to propose a more granular enabling/disabling mechanism for metrics on XLA devices.