facebookresearch/ParlAI

Retire custom AdamWithDecay

Open

#2.232 geöffnet am 2. Dez. 2019

Auf GitHub ansehen
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)Python (2.089 Forks)batch import
AgentsCode QualityHelp WantedMinordonotreap

Repository-Metriken

Stars
 (10.371 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

We have a custom Adam optimizer that says it could be removed via pytorch 1.2:

https://github.com/facebookresearch/ParlAI/blob/3a5de86667816abbdb0f08049c86d1e2c3aff03e/parlai/agents/bert_ranker/helpers.py#L242-L350

The task is to remove it and upgrade to the official pytorch version.

The helper function minimizes the pain required, though I'm wondering if we'll need to upgrade some state dicts, so make sure you run long tests. https://github.com/facebookresearch/ParlAI/blob/3a5de86667816abbdb0f08049c86d1e2c3aff03e/parlai/agents/bert_ranker/helpers.py#L205

Contributor Guide

Research-Richtung
Untersuchen Sie die benutzerdefinierte AdamWithDecay Implementierung unter https://github.com/facebookresearch/ParlAI/blob/3a5de86667816abbdb0f08049c86d1e2c3aff03e/parlai/agents/bert ranker/helpers.py#L242 L350 und die Hilfsfunktion, die den Aufwand minimiert. Ersetzen Sie den benutzerdefinierten Optimierer durch torch.optim.Adam und stellen Sie sicher, dass etwaige Unterschiede im Zustandsdictionary behandelt werden. Führen Sie Langzeittests durch, um die Korrektheit zu überprüfen. Prüfen Sie, ob andere Teile der Codebasis von der benutzerdefinierten Implementierung abhängen.
Tech Stack
pythonpytorch
Domain
machine learningbackend
Issue Type
Refactoring
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Frisch
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
Familiarity with PyTorch optimizersUnderstanding of state dict migration
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
40