Add INT3 and INT2 group codecs with packing
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 58/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Ambito
- machine-learning
Direzione di ricerca
Start by reading the existing 4-bit and 8-bit packing code in src/bitsmith/packing/ and how their codecs are exposed to gptq_quantize and bitsmith sqnr. Add known-layout and round trip coverage for the 3-bit and 2-bit formats, including the stated layout of eight 3-bit values in three bytes. Done means both codecs work with GPTQ and appear in bitsmith sqnr.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Only 4- and 8-bit integers are packed today. 3-bit and 2-bit weights (used with GPTQ in
some low-memory setups) need their own packing: for example 8 three-bit values in 3 bytes.
Task: add pack_int3/unpack_int3 and pack_int2/unpack_int2 in
src/bitsmith/packing/, codecs int3 and int2, and make gptq_quantize usable with them.
Done when known-layout and round trip tests pass and bitsmith sqnr shows both.
- Lingua principale
- Python
- Stelle
- 0
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di yashwanthdevavarapu/bitsmith
-
area: benchmarks good first issue help wanted
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
-
area: benchmarks good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
-
area: cli area: formats good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 92/100
-
area: cli good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
-
area: benchmarks good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 90/100
Tutte le issue di yashwanthdevavarapu/bitsmith
Issue simili
-
namespace
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 68/100
EclipseFdn/open-vsx.org#15604 ·
I maintainer di solito rispondono entro 1 giorno
-
app: scripts severity: low status: backlog type: bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
netbox-community/netbox-scripts#164 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 5 giorni
-
Public function to read participants.tsvForse già presa @bruAristimunha l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 1-3 ore Idoneità per principianti 85/100
huggingface/tau#799 ·
I maintainer di solito rispondono entro 2 giorni