Chủ sở hữu

Đã lập chỉ mục 1 kho mã nguồn · Xem trên GitHub

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

  • Benchmark a 7B model
    Đang mở
    area: benchmarks enhancement help wanted

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    yashwanthdevavarapu/bitsmith#23 ·

  • Fold SmoothQuant and AWQ scales into norm layers
    Đang mở
    area: calibration enhancement

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

    yashwanthdevavarapu/bitsmith#22 ·

  • Support GPT-2 style Conv1D layers in quantize_model
    Đang mở
    area: models enhancement help wanted

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100

    yashwanthdevavarapu/bitsmith#21 ·

  • KV-cache quantization
    Đang mở
    area: formats enhancement help wanted

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

    yashwanthdevavarapu/bitsmith#20 ·

  • Add INT3 and INT2 group codecs with packing
    Đang mở
    area: formats enhancement

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100

    yashwanthdevavarapu/bitsmith#19 ·

  • Add MXFP4 and MXINT8 microscaling formats
    Đang mở
    area: formats enhancement

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 65/100

    yashwanthdevavarapu/bitsmith#18 ·

  • Add an NF4 codec
    Đang mở
    area: formats enhancement help wanted

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 75/100

    yashwanthdevavarapu/bitsmith#17 ·

  • Reduce Python overhead in the GPTQ column loop
    Đang mở
    area: calibration enhancement performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

    yashwanthdevavarapu/bitsmith#16 ·

  • Tune the INT4 prefill GEMM
    Đang mở
    area: kernels enhancement performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

    yashwanthdevavarapu/bitsmith#15 ·

  • Real INT8 W8A8 matmul on tensor cores
    Đang mở
    area: kernels enhancement help wanted performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 53/100

    yashwanthdevavarapu/bitsmith#14 ·

  • Faster INT4 GEMV: wide vector loads and weight pre-shuffling
    Đang mở
    area: kernels enhancement performance

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100

    yashwanthdevavarapu/bitsmith#13 ·

  • CUDA graph capture for the decode step
    Đang mở
    area: kernels enhancement help wanted performance

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

    yashwanthdevavarapu/bitsmith#12 ·

  • Share benchmark results from your GPU
    Đang mở
    area: benchmarks good first issue help wanted

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

    yashwanthdevavarapu/bitsmith#11 ·

  • Tokenize WikiText-2 without the 'sequence length is longer than maximum' warning
    Đang mở
    area: benchmarks good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100

    yashwanthdevavarapu/bitsmith#10 ·

  • Vectorize MarkovCorpus.sample
    Đang mở
    area: benchmarks good first issue performance

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 76/100

    yashwanthdevavarapu/bitsmith#9 ·

  • Add a Colab quickstart notebook
    Đang mở
    documentation good first issue

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100

    yashwanthdevavarapu/bitsmith#8 ·

  • Show FP8 bit layouts in `bitsmith pack`
    Đang mở
    area: cli area: formats good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 92/100

    yashwanthdevavarapu/bitsmith#7 ·

  • Add --json output to `bitsmith sqnr` and `bitsmith roofline`
    Đang mở
    area: cli good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100

    yashwanthdevavarapu/bitsmith#6 ·

  • Add more GPUs to the roofline hardware list
    Đang mở
    area: benchmarks good first issue

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 90/100

    yashwanthdevavarapu/bitsmith#5 ·

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.