Chủ sở hữu
yashwanthdevavarapu
Đã lập chỉ mục 1 kho mã nguồn · Xem trên GitHub
-
bitsmith
LLM weight quantization from first principles: INT8, INT4, FP8, ternary, 2:4 sparsity, GPTQ, AWQ, SmoothQuant and a fused Triton INT4 kernel
Python · 0 star
Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày
-
Benchmark a 7B modelĐang mởarea: benchmarks enhancement help wanted
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
area: calibration enhancement
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
-
area: models enhancement help wanted
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100
-
KV-cache quantizationĐang mởarea: formats enhancement help wanted
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
area: formats enhancement
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100
-
area: formats enhancement
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 65/100
-
Add an NF4 codecĐang mởarea: formats enhancement help wanted
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 75/100
-
area: calibration enhancement performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100
-
Tune the INT4 prefill GEMMĐang mởarea: kernels enhancement performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100
-
area: kernels enhancement help wanted performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 53/100
-
area: kernels enhancement performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100
-
area: kernels enhancement help wanted performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100
-
area: benchmarks good first issue help wanted
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
area: benchmarks good first issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
-
Vectorize MarkovCorpus.sampleĐang mởarea: benchmarks good first issue performance
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 76/100
-
Add a Colab quickstart notebookĐang mởdocumentation good first issue
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100
-
area: cli area: formats good first issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 92/100
-
area: cli good first issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
-
area: benchmarks good first issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 90/100