yashwanthdevavarapu/bitsmith

Zum Folgen anmelden Auf GitHub ansehen

LLM weight quantization from first principles: INT8, INT4, FP8, ternary, 2:4 sparsity, GPTQ, AWQ, SmoothQuant and a fused Triton INT4 kernel

Ist yashwanthdevavarapu/bitsmith einsteigerfreundlich?

Wir haben zuletzt zu wenige Pull Requests von externen Beitragenden an yashwanthdevavarapu/bitsmith gesehen, um zu sagen, wie oft sie gemergt werden. Gerade ist kein einsteigerfreundliches Issue offen; die Liste unten zeigt die übrigen Issues, die wir von diesem Repository kennen.

Sterne
0
Forks
0
Offene Anfänger-Issues
0
Indexierte Issues
19
Vorherrschende Sprache
Python
Lizenz
Apache-2.0
Letzter GitHub-Push
11.11.2026
Zuletzt indexiert
11.11.2026
Beitragsleitfaden
Verhaltenskodex
Anfänger-Labels
good first issue help wanted
Keine gemergten PRs in 30 T.

So tragen Sie zu yashwanthdevavarapu/bitsmith bei

  1. Lesen Sie zuerst den Contributing Guide: Er beschreibt, wie die Maintainer Änderungen vorgeschlagen, getestet und geprüft haben möchten.
  2. Lesen Sie den Verhaltenskodex: Er gilt für Issues und Pull Requests ebenso wie für den Chat.
  3. Ihre Beiträge werden unter der Apache-2.0-Lizenz des Projekts veröffentlicht.
  4. Folgen Sie dem Repository, um von neuen einsteigerfreundlichen Issues zu erfahren, oder sehen Sie sich die übrigen Issues unten an.
Einsteigerfreundlich Alles
Offen Alle

Issues, an denen vielleicht schon jemand arbeitet, stehen am Ende. Alles nach Datum anzeigen

  • Benchmark a 7B model
    Offen
    • Stimmt etwas nicht?
    area: benchmarks enhancement help wanted

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 45/100

    yashwanthdevavarapu/bitsmith#23 ·

  • Fold SmoothQuant and AWQ scales into norm layers
    Offen
    • Stimmt etwas nicht?
    area: calibration enhancement

    Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 30/100

    yashwanthdevavarapu/bitsmith#22 ·

  • Support GPT-2 style Conv1D layers in quantize_model
    Offen
    • Stimmt etwas nicht?
    area: models enhancement help wanted

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 58/100

    yashwanthdevavarapu/bitsmith#21 ·

  • KV-cache quantization
    Offen
    • Stimmt etwas nicht?
    area: formats enhancement help wanted

    Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 35/100

    yashwanthdevavarapu/bitsmith#20 ·

  • Add INT3 and INT2 group codecs with packing
    Offen
    • Stimmt etwas nicht?
    area: formats enhancement

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 58/100

    yashwanthdevavarapu/bitsmith#19 ·

  • Add MXFP4 and MXINT8 microscaling formats
    Offen
    • Stimmt etwas nicht?
    area: formats enhancement

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 65/100

    yashwanthdevavarapu/bitsmith#18 ·

  • Add an NF4 codec
    Offen
    • Stimmt etwas nicht?
    area: formats enhancement help wanted

    Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 75/100

    yashwanthdevavarapu/bitsmith#17 ·

  • Reduce Python overhead in the GPTQ column loop
    Offen
    • Stimmt etwas nicht?
    area: calibration enhancement performance

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 48/100

    yashwanthdevavarapu/bitsmith#16 ·

  • Tune the INT4 prefill GEMM
    Offen
    • Stimmt etwas nicht?
    area: kernels enhancement performance

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 55/100

    yashwanthdevavarapu/bitsmith#15 ·

  • Real INT8 W8A8 matmul on tensor cores
    Offen
    • Stimmt etwas nicht?
    area: kernels enhancement help wanted performance

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 53/100

    yashwanthdevavarapu/bitsmith#14 ·

  • Faster INT4 GEMV: wide vector loads and weight pre-shuffling
    Offen
    • Stimmt etwas nicht?
    area: kernels enhancement performance

    Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 42/100

    yashwanthdevavarapu/bitsmith#13 ·

  • CUDA graph capture for the decode step
    Offen
    • Stimmt etwas nicht?
    area: kernels enhancement help wanted performance

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 52/100

    yashwanthdevavarapu/bitsmith#12 ·

  • Share benchmark results from your GPU
    Offen
    • Stimmt etwas nicht?
    area: benchmarks good first issue help wanted

    Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100

    yashwanthdevavarapu/bitsmith#11 ·

  • Tokenize WikiText-2 without the 'sequence length is longer than maximum' warning
    Offen
    • Stimmt etwas nicht?
    area: benchmarks good first issue

    Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100

    yashwanthdevavarapu/bitsmith#10 ·

  • Vectorize MarkovCorpus.sample
    Offen
    • Stimmt etwas nicht?
    area: benchmarks good first issue performance

    Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 76/100

    yashwanthdevavarapu/bitsmith#9 ·

  • Add a Colab quickstart notebook
    Offen
    • Stimmt etwas nicht?
    documentation good first issue

    Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 52/100

    yashwanthdevavarapu/bitsmith#8 ·

  • Show FP8 bit layouts in `bitsmith pack`
    Offen
    • Stimmt etwas nicht?
    area: cli area: formats good first issue

    Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 92/100

    yashwanthdevavarapu/bitsmith#7 ·

  • Add --json output to `bitsmith sqnr` and `bitsmith roofline`
    Offen
    • Stimmt etwas nicht?
    area: cli good first issue

    Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 88/100

    yashwanthdevavarapu/bitsmith#6 ·

  • Add more GPUs to the roofline hardware list
    Offen
    • Stimmt etwas nicht?
    area: benchmarks good first issue

    Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 90/100

    yashwanthdevavarapu/bitsmith#5 ·

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.