pytorch/ignite

Tracking the metrics with performance gaps on XLA

Open

#2.109 geöffnet am 14. Juli 2021

Auf GitHub ansehen
 (2 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (4.313 Stars) (602 Forks)batch import
HacktoberfestPyDataGlobalenhancementhelp wantedmodule: metrics

Beschreibung

🚀 Feature

Since this commit, the metrics have been disabled with xla device due to a performance regression.

https://github.com/pytorch/ignite/blob/7bdf92322a15ba0bea71ad76f3f785b7ea5907c3/ignite/metrics/metric.py#L224-L225

To solve this, it would be interesting to track which metrics work fine and which have lack of performance. Thus, we could think about more specific enable / disable process.

Contributor Guide

Tech Stack
python
Domain
performancemachine learning
Issue Type
feature
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 days
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
stale
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
needs investigation
Voraussetzungen
Keine
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
25
Research-Richtung
Investigate the referenced commit 002b595daa8a8345286c5e096c33e278948686a7 to understand why metrics were disabled on XLA. Examine the code in ignite/metrics/metric.py lines 224-225 to identify the performance regression. Then, measure which metrics (e.g., Accuracy, Loss) perform well on XLA and which cause slowdowns. The goal is to propose a more granular enabling/disabling mechanism for metrics on XLA devices.