Support GPT-2 style Conv1D layers in quantize_model
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 58/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Ambito
- machine-learning
Direzione di ricerca
Read src/bitsmith/nn/convert.py and src/bitsmith/calib/capture.py to see how nn.Linear conversion and calibration hooks work. Add a test that builds a tiny model from GPT2Config without downloading weights, then check that Conv1D conversion and calibration work and bitsmith hf --model gpt2 runs every config.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
quantize_model only converts nn.Linear. GPT-2 and some other models use
transformers.pytorch_utils.Conv1D, whose weight is stored transposed (in, out).
Task: convert Conv1D layers too (transpose the weight into a QLinear), and make
calibration hooks work for them.
Files: src/bitsmith/nn/convert.py, src/bitsmith/calib/capture.py, a test with a tiny
GPT-2 config (no download needed: build it from GPT2Config).
Done when bitsmith hf --model gpt2 runs every config.
- Lingua principale
- Python
- Stelle
- 0
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di yashwanthdevavarapu/bitsmith
-
area: benchmarks good first issue help wanted
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
-
area: benchmarks good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
-
area: cli area: formats good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 92/100
-
area: cli good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
-
area: benchmarks good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 90/100
Tutte le issue di yashwanthdevavarapu/bitsmith
Issue simili
-
namespace
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 68/100
EclipseFdn/open-vsx.org#15604 ·
I maintainer di solito rispondono entro 1 giorno
-
app: scripts severity: low status: backlog type: bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
netbox-community/netbox-scripts#164 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 5 giorni
-
Public function to read participants.tsvForse già presa @bruAristimunha l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 1-3 ore Idoneità per principianti 85/100
huggingface/tau#799 ·
I maintainer di solito rispondono entro 2 giorni