facebookresearch/memory
Vedi su GitHubMemory layers use a trainable key-value lookup mechanism to add extra parameters to a model without increasing FLOPs. Conceptually, sparsely activated memory layers complement compute-heavy dense feed-forward layers, providing dedicated capacity to store and retrieve information cheaply.
- Stelle
- 386
- Fork
- 32
- Issue aperte per principianti
- 0
- Issue indicizzate
- 2
- Lingua principale
- Python
- Licenza
- Nessun dato sulla licenza
- Ultimo push su GitHub
- 12/12/2024
- Ultima indicizzazione
- 15/9/2026
- Guida per i contributori
- Guida per i contributori
- Codice di condotta
- Codice di condotta
- Label per principianti
- Nessuna label per principianti indicizzata
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Caricamento delle issue
-
Memory implementation for 1B Aperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
facebookresearch/memory#4 · 1 commento ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100