Proprietario

yashwanthdevavarapu

Accedi per seguire

1 repository indicizzato · Vedi su GitHub

Adatte ai principianti Tutto
Aperta Tutte

Le issue su cui forse qualcuno sta già lavorando sono in fondo alla lista. Ordina tutto per data

  • Benchmark a 7B model
    Aperta
    • Qualcosa non va?
    area: benchmarks enhancement help wanted

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100

    yashwanthdevavarapu/bitsmith#23 ·

  • Fold SmoothQuant and AWQ scales into norm layers
    Aperta
    • Qualcosa non va?
    area: calibration enhancement

    Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100

    yashwanthdevavarapu/bitsmith#22 ·

  • Support GPT-2 style Conv1D layers in quantize_model
    Aperta
    • Qualcosa non va?
    area: models enhancement help wanted

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 58/100

    yashwanthdevavarapu/bitsmith#21 ·

  • KV-cache quantization
    Aperta
    • Qualcosa non va?
    area: formats enhancement help wanted

    Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100

    yashwanthdevavarapu/bitsmith#20 ·

  • Add INT3 and INT2 group codecs with packing
    Aperta
    • Qualcosa non va?
    area: formats enhancement

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 58/100

    yashwanthdevavarapu/bitsmith#19 ·

  • Add MXFP4 and MXINT8 microscaling formats
    Aperta
    • Qualcosa non va?
    area: formats enhancement

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 65/100

    yashwanthdevavarapu/bitsmith#18 ·

  • Add an NF4 codec
    Aperta
    • Qualcosa non va?
    area: formats enhancement help wanted

    Difficoltà 3/5 1-2 giorni Idoneità per principianti 75/100

    yashwanthdevavarapu/bitsmith#17 ·

  • Reduce Python overhead in the GPTQ column loop
    Aperta
    • Qualcosa non va?
    area: calibration enhancement performance

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100

    yashwanthdevavarapu/bitsmith#16 ·

  • Tune the INT4 prefill GEMM
    Aperta
    • Qualcosa non va?
    area: kernels enhancement performance

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100

    yashwanthdevavarapu/bitsmith#15 ·

  • Real INT8 W8A8 matmul on tensor cores
    Aperta
    • Qualcosa non va?
    area: kernels enhancement help wanted performance

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 53/100

    yashwanthdevavarapu/bitsmith#14 ·

  • Faster INT4 GEMV: wide vector loads and weight pre-shuffling
    Aperta
    • Qualcosa non va?
    area: kernels enhancement performance

    Difficoltà 5/5 Più di una settimana Idoneità per principianti 42/100

    yashwanthdevavarapu/bitsmith#13 ·

  • CUDA graph capture for the decode step
    Aperta
    • Qualcosa non va?
    area: kernels enhancement help wanted performance

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100

    yashwanthdevavarapu/bitsmith#12 ·

  • Share benchmark results from your GPU
    Aperta
    • Qualcosa non va?
    area: benchmarks good first issue help wanted

    Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100

    yashwanthdevavarapu/bitsmith#11 ·

  • Tokenize WikiText-2 without the 'sequence length is longer than maximum' warning
    Aperta
    • Qualcosa non va?
    area: benchmarks good first issue

    Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100

    yashwanthdevavarapu/bitsmith#10 ·

  • Vectorize MarkovCorpus.sample
    Aperta
    • Qualcosa non va?
    area: benchmarks good first issue performance

    Difficoltà 3/5 1-2 giorni Idoneità per principianti 76/100

    yashwanthdevavarapu/bitsmith#9 ·

  • Add a Colab quickstart notebook
    Aperta
    • Qualcosa non va?
    documentation good first issue

    Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100

    yashwanthdevavarapu/bitsmith#8 ·

  • Show FP8 bit layouts in `bitsmith pack`
    Aperta
    • Qualcosa non va?
    area: cli area: formats good first issue

    Difficoltà 2/5 1-3 ore Idoneità per principianti 92/100

    yashwanthdevavarapu/bitsmith#7 ·

  • Add --json output to `bitsmith sqnr` and `bitsmith roofline`
    Aperta
    • Qualcosa non va?
    area: cli good first issue

    Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100

    yashwanthdevavarapu/bitsmith#6 ·

  • Add more GPUs to the roofline hardware list
    Aperta
    • Qualcosa non va?
    area: benchmarks good first issue

    Difficoltà 2/5 1-3 ore Idoneità per principianti 90/100

    yashwanthdevavarapu/bitsmith#5 ·

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.