yashwanthdevavarapu/bitsmith

Đăng nhập để theo dõi Xem trên GitHub

LLM weight quantization from first principles: INT8, INT4, FP8, ternary, 2:4 sparsity, GPTQ, AWQ, SmoothQuant and a fused Triton INT4 kernel

yashwanthdevavarapu/bitsmith có thân thiện với người mới không?

Gần đây có quá ít pull request của người đóng góp bên ngoài gửi tới yashwanthdevavarapu/bitsmith để nói chúng được merge thường xuyên đến đâu. Hiện chưa có issue nào phù hợp với người mới đang mở; danh sách bên dưới là các issue khác chúng tôi có của kho này.

Star
0
Fork
0
Issue cho người mới đang mở
0
Issue đã lập chỉ mục
19
Ngôn ngữ chính
Python
Giấy phép
Apache-2.0
Lần push lên GitHub gần nhất
11/11/2026
Lập chỉ mục gần nhất
11/11/2026
Hướng dẫn đóng góp
Quy tắc ứng xử
Label cho người mới
good first issue help wanted
Không có pull request nào được merge trong 30 ngày

Cách đóng góp cho yashwanthdevavarapu/bitsmith

  1. Hãy đọc hướng dẫn đóng góp trước: nó cho biết maintainer muốn thay đổi được đề xuất, kiểm thử và review ra sao.
  2. Hãy đọc quy tắc ứng xử: nó áp dụng cho issue và pull request cũng như trò chuyện.
  3. Đóng góp của bạn sẽ được phát hành theo giấy phép Apache-2.0 của dự án.
  4. Theo dõi kho này để biết khi có issue mới phù hợp với người mới, hoặc xem các issue khác bên dưới.
Phù hợp cho người mới Tất cả
Đang mở Tất cả

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

  • Benchmark a 7B model
    Đang mở
    • Có gì không ổn?
    area: benchmarks enhancement help wanted

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    yashwanthdevavarapu/bitsmith#23 ·

  • Fold SmoothQuant and AWQ scales into norm layers
    Đang mở
    • Có gì không ổn?
    area: calibration enhancement

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

    yashwanthdevavarapu/bitsmith#22 ·

  • Support GPT-2 style Conv1D layers in quantize_model
    Đang mở
    • Có gì không ổn?
    area: models enhancement help wanted

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100

    yashwanthdevavarapu/bitsmith#21 ·

  • KV-cache quantization
    Đang mở
    • Có gì không ổn?
    area: formats enhancement help wanted

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    yashwanthdevavarapu/bitsmith#20 ·

  • Add INT3 and INT2 group codecs with packing
    Đang mở
    • Có gì không ổn?
    area: formats enhancement

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100

    yashwanthdevavarapu/bitsmith#19 ·

  • Add MXFP4 and MXINT8 microscaling formats
    Đang mở
    • Có gì không ổn?
    area: formats enhancement

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 65/100

    yashwanthdevavarapu/bitsmith#18 ·

  • Add an NF4 codec
    Đang mở
    • Có gì không ổn?
    area: formats enhancement help wanted

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 75/100

    yashwanthdevavarapu/bitsmith#17 ·

  • Reduce Python overhead in the GPTQ column loop
    Đang mở
    • Có gì không ổn?
    area: calibration enhancement performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

    yashwanthdevavarapu/bitsmith#16 ·

  • Tune the INT4 prefill GEMM
    Đang mở
    • Có gì không ổn?
    area: kernels enhancement performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

    yashwanthdevavarapu/bitsmith#15 ·

  • Real INT8 W8A8 matmul on tensor cores
    Đang mở
    • Có gì không ổn?
    area: kernels enhancement help wanted performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 53/100

    yashwanthdevavarapu/bitsmith#14 ·

  • Faster INT4 GEMV: wide vector loads and weight pre-shuffling
    Đang mở
    • Có gì không ổn?
    area: kernels enhancement performance

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100

    yashwanthdevavarapu/bitsmith#13 ·

  • CUDA graph capture for the decode step
    Đang mở
    • Có gì không ổn?
    area: kernels enhancement help wanted performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

    yashwanthdevavarapu/bitsmith#12 ·

  • Share benchmark results from your GPU
    Đang mở
    • Có gì không ổn?
    area: benchmarks good first issue help wanted

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

    yashwanthdevavarapu/bitsmith#11 ·

  • Tokenize WikiText-2 without the 'sequence length is longer than maximum' warning
    Đang mở
    • Có gì không ổn?
    area: benchmarks good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100

    yashwanthdevavarapu/bitsmith#10 ·

  • Vectorize MarkovCorpus.sample
    Đang mở
    • Có gì không ổn?
    area: benchmarks good first issue performance

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 76/100

    yashwanthdevavarapu/bitsmith#9 ·

  • Add a Colab quickstart notebook
    Đang mở
    • Có gì không ổn?
    documentation good first issue

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

    yashwanthdevavarapu/bitsmith#8 ·

  • Show FP8 bit layouts in `bitsmith pack`
    Đang mở
    • Có gì không ổn?
    area: cli area: formats good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 92/100

    yashwanthdevavarapu/bitsmith#7 ·

  • Add --json output to `bitsmith sqnr` and `bitsmith roofline`
    Đang mở
    • Có gì không ổn?
    area: cli good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100

    yashwanthdevavarapu/bitsmith#6 ·

  • Add more GPUs to the roofline hardware list
    Đang mở
    • Có gì không ổn?
    area: benchmarks good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 90/100

    yashwanthdevavarapu/bitsmith#5 ·

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.