microsoft/VPTQ

Ver en GitHub

VPTQ, A Flexible and Extreme low-bit quantization algorithm

Estrellas: 681
Forks: 53
Issues abiertos para principiantes: 0
Issues indexados: 26

Lenguaje dominante: Python
Licencia: MIT
Último push a GitHub: 25/4/2025
Última indexación: 19/9/2026
Guía de contribución: Sin guía de contribución
Código de conducta: Código de conducta
Etiquetas para principiantes: Sin etiquetas para principiantes indexadas
Métricas de merge de PR: Sin PR fusionados en 30 d

Para principiantes Todo

Abierto Todos

26 issues abiertos indexados

compiling main with ROCm 7.2 fails Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

microsoft/VPTQ#204 · Abierto el 20/3/2026
Is the accuracy reported in the paper the result with finetuning applied? Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

microsoft/VPTQ#203 · Abierto el 12/3/2026
Large PPL Fluctuations in VPTQ 4.05-bit Quantization Despite Fixed Random Seed and Identical Setup Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

microsoft/VPTQ#202 · Abierto el 13/11/2025
"ValueError: Expected 1 columns but got 8 columns." when quantizing Llama3.2-1B Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 50/100

microsoft/VPTQ#201 · 9 comentarios · Abierto el 21/10/2025
How does the inference speed of VPTQ-3bit compare to AWQ-4bit? Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 10/100

microsoft/VPTQ#200 · Abierto el 3/9/2025
qwen3 support Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

microsoft/VPTQ#197 · Abierto el 7/7/2025
a version incompatibility issue Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

microsoft/VPTQ#196 · 1 comentario · Abierto el 22/5/2025
Can you provide a script that can reproduce the results of the paper? Abierto

microsoft/VPTQ#191 · 11 comentarios · 1 asignado · Abierto el 26/3/2025
gemma-3 support Abierto

microsoft/VPTQ#188 · 1 comentario · 1 asignado · Abierto el 17/3/2025
Question about result reproduction Abierto

microsoft/VPTQ#180 · 15 comentarios · 1 asignado · Abierto el 6/3/2025
when contribute VPTQ to llm compressor? Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 15/100

microsoft/VPTQ#176 · 1 comentario · Abierto el 14/2/2025
DeepSeek-R1 support Abierto

new models

microsoft/VPTQ#174 · 11 comentarios · 1 reacción · 1 asignado · Abierto el 7/2/2025
Question about fine-tuning Abierto

alogrithm enhancement question

Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100

microsoft/VPTQ#136 · 5 comentarios · Abierto el 3/12/2024
How to dequantize a model with 4 groups and centroids greater than 4096? Abierto

bug question

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

microsoft/VPTQ#128 · 6 comentarios · Abierto el 29/11/2024
How to Generate a 2-bit Quantized Meta-Llama-3.1-8B-Instruct Model? Abierto

question

microsoft/VPTQ#126 · 7 comentarios · 1 asignado · Abierto el 21/11/2024
Enhance the implementation of the CUDA inference kernel. Abierto

features

microsoft/VPTQ#118 · 2 comentarios · 2 asignados · Abierto el 13/11/2024
CPU support Abierto

inference

microsoft/VPTQ#114 · 2 comentarios · 1 reacción · 1 asignado · Abierto el 7/11/2024
Custom Model support Abierto

new models question

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

microsoft/VPTQ#113 · 3 comentarios · Abierto el 7/11/2024
Add evaluation codes Abierto

enhancement

Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

microsoft/VPTQ#102 · 1 comentario · Abierto el 31/10/2024
Add FP8/INT8 support Abierto

alogrithm

microsoft/VPTQ#88 · 3 comentarios · 1 asignado · Abierto el 26/10/2024
Improve hessian/invhessian collection Abierto

alogrithm

microsoft/VPTQ#79 · 3 comentarios · 1 asignado · Abierto el 21/10/2024
Add Ollama/llama.cpp/ggml support Abierto

inference

microsoft/VPTQ#77 · 1 comentario · 1 reacción · 1 asignado · Abierto el 20/10/2024
Add VLM/Multimodality support Abierto

alogrithm new models

microsoft/VPTQ#76 · 1 asignado · Abierto el 20/10/2024
Add vLLM support Abierto

inference

microsoft/VPTQ#75 · 3 comentarios · 2 reacciones · 1 asignado · Abierto el 20/10/2024
Does not work in Oobabooga Abierto

inference question

Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

microsoft/VPTQ#53 · 1 comentario · Abierto el 8/10/2024
stdout captures and injects userwarnings into TextStreamer Abierto

question

Dificultad 2/5 1-3 horas Aptitud para principiantes 38/100

microsoft/VPTQ#42 · 3 comentarios · Abierto el 5/10/2024

microsoft/VPTQ

Recibe los nuevos issues en tu correo