yashwanthdevavarapu/bitsmith

Se connecter pour suivre Voir sur GitHub

LLM weight quantization from first principles: INT8, INT4, FP8, ternary, 2:4 sparsity, GPTQ, AWQ, SmoothQuant and a fused Triton INT4 kernel

yashwanthdevavarapu/bitsmith est-il accessible aux débutants ?

Nous avons vu trop peu de pull requests récentes de contributeurs externes sur yashwanthdevavarapu/bitsmith pour dire à quelle fréquence elles sont fusionnées. Aucune issue accessible aux débutants n'est ouverte pour l'instant ; la liste ci-dessous montre les autres issues que nous avons pour ce dépôt.

Étoiles
0
Forks
0
Issues débutants ouvertes
0
Issues indexées
19
Langage dominant
Python
Licence
Apache-2.0
Dernier push GitHub
11/11/2026
Dernière indexation
11/11/2026
Guide de contribution
Code de conduite
Labels débutants
good first issue help wanted
Aucune PR mergée en 30 j

Comment contribuer à yashwanthdevavarapu/bitsmith

  1. Lisez d'abord le guide de contribution : il explique comment les mainteneurs veulent que les changements soient proposés, testés et relus.
  2. Lisez son code de conduite : il s'applique aux issues et aux pull requests autant qu'au chat.
  3. Vos contributions seront publiées sous la licence Apache-2.0 du projet.
  4. Suivez le dépôt pour savoir quand une nouvelle issue accessible aux débutants s'ouvre, ou parcourez les autres issues ci-dessous.
Accessible aux débutants Tout
Ouverte Toutes

Les issues sur lesquelles quelqu’un travaille peut-être déjà sont listées en dernier. Tout trier par date

  • Benchmark a 7B model
    Ouverte
    • Quelque chose ne va pas ?
    area: benchmarks enhancement help wanted

    Difficulté 4/5 3-5 jours Accessibilité débutants 45/100

    yashwanthdevavarapu/bitsmith#23 ·

  • Fold SmoothQuant and AWQ scales into norm layers
    Ouverte
    • Quelque chose ne va pas ?
    area: calibration enhancement

    Difficulté 5/5 Plus d'une semaine Accessibilité débutants 30/100

    yashwanthdevavarapu/bitsmith#22 ·

  • Support GPT-2 style Conv1D layers in quantize_model
    Ouverte
    • Quelque chose ne va pas ?
    area: models enhancement help wanted

    Difficulté 4/5 3-5 jours Accessibilité débutants 58/100

    yashwanthdevavarapu/bitsmith#21 ·

  • KV-cache quantization
    Ouverte
    • Quelque chose ne va pas ?
    area: formats enhancement help wanted

    Difficulté 5/5 Plus d'une semaine Accessibilité débutants 35/100

    yashwanthdevavarapu/bitsmith#20 ·

  • Add INT3 and INT2 group codecs with packing
    Ouverte
    • Quelque chose ne va pas ?
    area: formats enhancement

    Difficulté 4/5 3-5 jours Accessibilité débutants 58/100

    yashwanthdevavarapu/bitsmith#19 ·

  • Add MXFP4 and MXINT8 microscaling formats
    Ouverte
    • Quelque chose ne va pas ?
    area: formats enhancement

    Difficulté 4/5 3-5 jours Accessibilité débutants 65/100

    yashwanthdevavarapu/bitsmith#18 ·

  • Add an NF4 codec
    Ouverte
    • Quelque chose ne va pas ?
    area: formats enhancement help wanted

    Difficulté 3/5 1-2 jours Accessibilité débutants 75/100

    yashwanthdevavarapu/bitsmith#17 ·

  • Reduce Python overhead in the GPTQ column loop
    Ouverte
    • Quelque chose ne va pas ?
    area: calibration enhancement performance

    Difficulté 4/5 3-5 jours Accessibilité débutants 48/100

    yashwanthdevavarapu/bitsmith#16 ·

  • Tune the INT4 prefill GEMM
    Ouverte
    • Quelque chose ne va pas ?
    area: kernels enhancement performance

    Difficulté 4/5 3-5 jours Accessibilité débutants 55/100

    yashwanthdevavarapu/bitsmith#15 ·

  • Real INT8 W8A8 matmul on tensor cores
    Ouverte
    • Quelque chose ne va pas ?
    area: kernels enhancement help wanted performance

    Difficulté 4/5 3-5 jours Accessibilité débutants 53/100

    yashwanthdevavarapu/bitsmith#14 ·

  • Faster INT4 GEMV: wide vector loads and weight pre-shuffling
    Ouverte
    • Quelque chose ne va pas ?
    area: kernels enhancement performance

    Difficulté 5/5 Plus d'une semaine Accessibilité débutants 42/100

    yashwanthdevavarapu/bitsmith#13 ·

  • CUDA graph capture for the decode step
    Ouverte
    • Quelque chose ne va pas ?
    area: kernels enhancement help wanted performance

    Difficulté 4/5 3-5 jours Accessibilité débutants 52/100

    yashwanthdevavarapu/bitsmith#12 ·

  • Share benchmark results from your GPU
    Ouverte
    • Quelque chose ne va pas ?
    area: benchmarks good first issue help wanted

    Difficulté 2/5 1-3 heures Accessibilité débutants 78/100

    yashwanthdevavarapu/bitsmith#11 ·

  • Tokenize WikiText-2 without the 'sequence length is longer than maximum' warning
    Ouverte
    • Quelque chose ne va pas ?
    area: benchmarks good first issue

    Difficulté 2/5 1-3 heures Accessibilité débutants 86/100

    yashwanthdevavarapu/bitsmith#10 ·

  • Vectorize MarkovCorpus.sample
    Ouverte
    • Quelque chose ne va pas ?
    area: benchmarks good first issue performance

    Difficulté 3/5 1-2 jours Accessibilité débutants 76/100

    yashwanthdevavarapu/bitsmith#9 ·

  • Add a Colab quickstart notebook
    Ouverte
    • Quelque chose ne va pas ?
    documentation good first issue

    Difficulté 4/5 3-5 jours Accessibilité débutants 52/100

    yashwanthdevavarapu/bitsmith#8 ·

  • Show FP8 bit layouts in `bitsmith pack`
    Ouverte
    • Quelque chose ne va pas ?
    area: cli area: formats good first issue

    Difficulté 2/5 1-3 heures Accessibilité débutants 92/100

    yashwanthdevavarapu/bitsmith#7 ·

  • Add --json output to `bitsmith sqnr` and `bitsmith roofline`
    Ouverte
    • Quelque chose ne va pas ?
    area: cli good first issue

    Difficulté 2/5 1-3 heures Accessibilité débutants 88/100

    yashwanthdevavarapu/bitsmith#6 ·

  • Add more GPUs to the roofline hardware list
    Ouverte
    • Quelque chose ne va pas ?
    area: benchmarks good first issue

    Difficulté 2/5 1-3 heures Accessibilité débutants 90/100

    yashwanthdevavarapu/bitsmith#5 ·

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.