Hacktoberfest 2026: die Issues, die Maintainer für den Oktober markiert haben – offen und einsteigerfreundlich. Hacktoberfest-Issues durchsuchen

AverageMeter and Metric Reduction Clarification

Offen
  • Stimmt etwas nicht?
#1,787 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Anfängerfreundlichkeit
35/100
Issue-Typ
Bug
Klarheit
Größtenteils klar
Aktivitätsstatus
Veraltet
Tech-Stack
jupyter-notebook, python, pytorch
Bereich
machine-learning

Rechercherichtung

Beginne mit 3d_segmentation/swin_unetr_brats21_segmentation_3d.ipynb und überprüfe die Implementierung von AverageMeter, die Aggregation von acc_func sowie den Aufruf von run_acc.update. Führe das Notebook oder die angegebene Reproduktion aus und verifiziere, wie sich Kombinationen aus NaN- und Nicht-NaN-Vorhersagen bzw. Ground-Truth-Werten auf den berichteten Durchschnitt auswirken; als erledigt gilt die Aufgabe, wenn das beabsichtigte Verhalten bei False Positives und fehlenden Klassen geklärt ist und konsistent widergespiegelt wird.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

I am seeking clarification on the AverageMeter and metric reduction implementations in 3d_segmentation/swin_unetr_brats21_segmentation_3d.ipynb.

For instance, here is the AverageMeter implementation provided in the brats swinunetr tutorial:

class AverageMeter(object):
    def __init__(self):
        self.reset()

    def reset(self):
        self.val = 0
        self.avg = 0
        self.sum = 0
        self.count = 0

    def update(self, val, n=1):
        self.val = val
        self.sum += val * n
        self.count += n
        self.avg = np.where(self.count > 0, self.sum / self.count, self.sum)

It's similar to the ImageNet implementation apart from the last line.

ImageNet's last line: self.avg = self.sum / self.count

The reason why I think this could be problematic is because the tutorial does the following:

acc_func(y_pred=val_output_convert, y=val_labels_list)
acc, not_nans = acc_func.aggregate()
run_acc.update(acc.cpu().numpy(), n=not_nans.cpu().numpy())

This implies that anytime the model has a nan prediction and the ground truth is NOT NAN (or vice versa), the resulting dice coefficient is NOT penalized as though the prediction has a dice coefficient of zero.

For instance, let's assume the ground truth is has pixels in it, but the model predicts nothing for one class, resulting in these dice values: [0.0000, 0.8775, 0.1213]

The way that AverageMeter is currently used might simply ignore the 0 dice value in the first class if DiceMetric returned nan for the corresponding class.

However, NaNs are caused by the ground truth being NaN. What happens when the ground truth is NaN AND the predicted is not NaN, because that is also not desirable (i.e. false positive)?

Edit: please see my next comment for further clarification.

To Reproduce
Just run the notebook or use the AverageMeter implementation within your own code.

Expected behavior
Would it be possible to refactor the aggregation/average meter to yield zero if the ground truth is NaN and the predicted is NOT NaN?

Vorherrschende Sprache
Jupyter Notebook
Sterne
2.6k
Forks
805
Ø Merge
3 T. 7 Std.
Gemergte PRs (30 T.)
3

Entwicklungsumgebung

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus Project-MONAI/tutorials

Alle Issues in Project-MONAI/tutorials

Ähnliche Issues

Weitere Issues zu Machine Learning

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.