Propietario
yashwanthdevavarapu
1 repositorio indexado · Ver en GitHub
-
bitsmith
LLM weight quantization from first principles: INT8, INT4, FP8, ternary, 2:4 sparsity, GPTQ, AWQ, SmoothQuant and a fused Triton INT4 kernel
Python · 0 estrellas
Las issues en las que quizá ya trabaja alguien aparecen al final. Ordenar todo por fecha
-
Benchmark a 7B modelAbiertoarea: benchmarks enhancement help wanted
Dificultad 4/5 3-5 días Aptitud para principiantes 45/100
-
area: calibration enhancement
Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100
-
area: models enhancement help wanted
Dificultad 4/5 3-5 días Aptitud para principiantes 58/100
-
KV-cache quantizationAbiertoarea: formats enhancement help wanted
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
-
area: formats enhancement
Dificultad 4/5 3-5 días Aptitud para principiantes 58/100
-
area: formats enhancement
Dificultad 4/5 3-5 días Aptitud para principiantes 65/100
-
Add an NF4 codecAbiertoarea: formats enhancement help wanted
Dificultad 3/5 1-2 días Aptitud para principiantes 75/100
-
area: calibration enhancement performance
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
-
Tune the INT4 prefill GEMMAbiertoarea: kernels enhancement performance
Dificultad 4/5 3-5 días Aptitud para principiantes 55/100
-
area: kernels enhancement help wanted performance
Dificultad 4/5 3-5 días Aptitud para principiantes 53/100
-
area: kernels enhancement performance
Dificultad 5/5 Más de una semana Aptitud para principiantes 42/100
-
area: kernels enhancement help wanted performance
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
-
area: benchmarks good first issue help wanted
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
-
area: benchmarks good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
-
Vectorize MarkovCorpus.sampleAbiertoarea: benchmarks good first issue performance
Dificultad 3/5 1-2 días Aptitud para principiantes 76/100
-
Add a Colab quickstart notebookAbiertodocumentation good first issue
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
-
area: cli area: formats good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 92/100
-
area: cli good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
-
area: benchmarks good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 90/100