Propietario

yashwanthdevavarapu

1 repositorio indexado · Ver en GitHub

Las issues en las que quizá ya trabaja alguien aparecen al final. Ordenar todo por fecha

  • Benchmark a 7B model
    Abierto
    area: benchmarks enhancement help wanted

    Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

    yashwanthdevavarapu/bitsmith#23 ·

  • Fold SmoothQuant and AWQ scales into norm layers
    Abierto
    area: calibration enhancement

    Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100

    yashwanthdevavarapu/bitsmith#22 ·

  • Support GPT-2 style Conv1D layers in quantize_model
    Abierto
    area: models enhancement help wanted

    Dificultad 4/5 3-5 días Aptitud para principiantes 58/100

    yashwanthdevavarapu/bitsmith#21 ·

  • KV-cache quantization
    Abierto
    area: formats enhancement help wanted

    Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

    yashwanthdevavarapu/bitsmith#20 ·

  • Add INT3 and INT2 group codecs with packing
    Abierto
    area: formats enhancement

    Dificultad 4/5 3-5 días Aptitud para principiantes 58/100

    yashwanthdevavarapu/bitsmith#19 ·

  • Add MXFP4 and MXINT8 microscaling formats
    Abierto
    area: formats enhancement

    Dificultad 4/5 3-5 días Aptitud para principiantes 65/100

    yashwanthdevavarapu/bitsmith#18 ·

  • Add an NF4 codec
    Abierto
    area: formats enhancement help wanted

    Dificultad 3/5 1-2 días Aptitud para principiantes 75/100

    yashwanthdevavarapu/bitsmith#17 ·

  • Reduce Python overhead in the GPTQ column loop
    Abierto
    area: calibration enhancement performance

    Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

    yashwanthdevavarapu/bitsmith#16 ·

  • Tune the INT4 prefill GEMM
    Abierto
    area: kernels enhancement performance

    Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

    yashwanthdevavarapu/bitsmith#15 ·

  • Real INT8 W8A8 matmul on tensor cores
    Abierto
    area: kernels enhancement help wanted performance

    Dificultad 4/5 3-5 días Aptitud para principiantes 53/100

    yashwanthdevavarapu/bitsmith#14 ·

  • Faster INT4 GEMV: wide vector loads and weight pre-shuffling
    Abierto
    area: kernels enhancement performance

    Dificultad 5/5 Más de una semana Aptitud para principiantes 42/100

    yashwanthdevavarapu/bitsmith#13 ·

  • CUDA graph capture for the decode step
    Abierto
    area: kernels enhancement help wanted performance

    Dificultad 4/5 3-5 días Aptitud para principiantes 52/100

    yashwanthdevavarapu/bitsmith#12 ·

  • Share benchmark results from your GPU
    Abierto
    area: benchmarks good first issue help wanted

    Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100

    yashwanthdevavarapu/bitsmith#11 ·

  • Tokenize WikiText-2 without the 'sequence length is longer than maximum' warning
    Abierto
    area: benchmarks good first issue

    Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100

    yashwanthdevavarapu/bitsmith#10 ·

  • Vectorize MarkovCorpus.sample
    Abierto
    area: benchmarks good first issue performance

    Dificultad 3/5 1-2 días Aptitud para principiantes 76/100

    yashwanthdevavarapu/bitsmith#9 ·

  • Add a Colab quickstart notebook
    Abierto
    documentation good first issue

    Dificultad 4/5 3-5 días Aptitud para principiantes 52/100

    yashwanthdevavarapu/bitsmith#8 ·

  • Show FP8 bit layouts in `bitsmith pack`
    Abierto
    area: cli area: formats good first issue

    Dificultad 2/5 1-3 horas Aptitud para principiantes 92/100

    yashwanthdevavarapu/bitsmith#7 ·

  • Add --json output to `bitsmith sqnr` and `bitsmith roofline`
    Abierto
    area: cli good first issue

    Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100

    yashwanthdevavarapu/bitsmith#6 ·

  • Add more GPUs to the roofline hardware list
    Abierto
    area: benchmarks good first issue

    Dificultad 2/5 1-3 horas Aptitud para principiantes 90/100

    yashwanthdevavarapu/bitsmith#5 ·

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.