facebookresearch/xformers

Provide an easy way to debug mem-eff issues

Open

#632 aperta il 10 gen 2023

Vedi su GitHub
 (0 commenti) (0 reazioni) (0 assegnatari)Python (473 fork)batch import
good first issue

Metriche repository

Star
 (6903 star)
Metriche merge PR
 (Merge medio 3g 6h) (1 PR mergiata in 30 g)

Descrizione

🚀 Feature

We should be able to: (1) Understand which op is used for FW/BW (via additional logging enabled with an env variable?) (2) Possibly disable some ops entirely with env variable (like CUDA_VISIBLE_DEVICES but something like XFORMERS_MEMEFF_FW_OPERATORS=...)

Guida contributor

Direzione di ricerca
Indaga come aggiungere controlli tramite variabili d'ambiente per gli operatori efficienti in memoria in xformers, in particolare registrando quale operatore viene utilizzato per forward/backward e disabilitando alcuni operatori.
Tech stack
python
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
Python
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
40