facebookresearch/ParlAI

Support tied positional weights in transformers

Open

#2.184 geöffnet am 19. Nov. 2019

Auf GitHub ansehen
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)Python (2.089 Forks)batch import
EnhancementH1 2020Help WantedMediumdonotreap

Repository-Metriken

Stars
 (10.371 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

Add a flag to use tied positional embeddings in transformer/generator and transformer/retrieval, and implement the tied weights. Should be False by default for backwards compatibility, and upgrade_opt should be used to migrate old models.

Contributor Guide

Research-Richtung
Untersuche den Transformer Generator und die Retrieval Module in ParlAI (wahrscheinlich unter parlai/agents/transformer/). Überprüfe, wie Positions Einbettungen derzeit implementiert sind. Füge ein neues boolesches Flag für gebundene Positionsgewichte hinzu, standardmäßig auf False gesetzt. Implementiere die Logik für gebundene Gewichte und verwende upgrade opt, um die Migration alter Modelle zu handhaben. Überprüfe die Kommentare in Issue #2184 für zusätzliche Anleitungen.
Tech Stack
python
Domain
machine learning
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Frisch
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
Understanding of transformer architecturesFamiliarity with ParlAI codebasePython programming
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
30