facebookresearch/fairscale

[feat] make sure AdaScale works with Lightning trainer loop

Offen

#293 geöffnet am 06.01.2021

Auf GitHub ansehenContributor Guide
 (3 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (297 Forks)auto 404
good first issueicebox

Repository-Metriken

Stars
 (3.411 Sterne)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

🚀 Feature

as title

Motivation

changing the LR schedule based on the effective step is not easy to do for the user, it would be nice to support it without user's change.

Pitch

make sure adascale works without or with small user impacts

Alternatives

not supporting it

Additional context

surface from an internal discussion and use case

Contributor Guide

Research-Richtung
Studiere die vorhandene AdaScale Implementierung und die Lightning Trainingsschleife, um die erforderlichen Änderungen für die Integration zu identifizieren.
Tech Stack
pythonpytorch
Domain
backendmachine learning
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
PythonPyTorchLightning
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
40