intel/auto-round

GitHub で見る

A SOTA quantization toolkit for high-accuracy low-bit LLM inference|简洁且高效的量化工具包

スター: 1.6k
フォーク: 176
オープンの初心者向け issue: 0
索引済み issue: 82
平均マージ: 1日 19時間
マージ済み PR（30日）: 102

主要言語: Python
ライセンス: Apache-2.0
最終 GitHub push: 2026年9月20日
最新の索引: 2026年9月17日
コントリビューションガイド: コントリビューションガイド
行動規範: 行動規範
初心者向けラベル: good first issue

初心者向けすべて

オープンすべて

オープンの issue を 66 件索引しました

[Qwen3-8B-FP8] RuntimeError: Trying to backward through the graph a second time オープン

難易度 3/5 1〜2日初心者へのやさしさ 45/100

intel/auto-round#2387 · コメント 1 件 · 2026年9月20日に作成
[Bug]: COCO2014 is not a good calibration dataset for Wan quantization オープン

bug

intel/auto-round#2381 · 担当者 1 名 · 2026年9月18日に作成
RFC: Data-parallel block tuning (--parallel_quantization) オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

intel/auto-round#2378 · 2026年9月17日に作成
[Bug]: Kimi-K2.6_mxfp4_fp8attn_LLMC vllm eval qkv scale is not loaded オープン

bug

intel/auto-round#2370 · コメント 1 件 · 担当者 1 名 · 2026年9月16日に作成
[Bug]: MiniMax-M2.7_mxfp4_mixed_fp8kv_LLMC vllm eval failed オープン

bug

intel/auto-round#2369 · 担当者 1 名 · 2026年9月16日に作成
[Bug]: crash + resume (AR_RESUME_DIR, immediate saving) silently duplicates already-quantized modules as stale fp weights in the final artifact オープン

bug

難易度 3/5 1〜2日初心者へのやさしさ 68/100

intel/auto-round#2350 · 2026年9月11日に作成
Add a CI check to prevent coverage regressions in pull requests オープン

intel/auto-round#2347 · コメント 3 件 · 担当者 1 名 · 2026年9月11日に作成
[Feature]: support nlayers to support load a small model for debugging オープン

enhancement low priority

難易度 4/5 3〜5日初心者へのやさしさ 45/100

intel/auto-round#2336 · コメント 3 件 · 2026年9月10日に作成
[Bug]: MTP logic is unaware of Transformers' layer renaming and quantizes the entire model again オープン

bug

intel/auto-round#2324 · コメント 2 件 · 担当者 1 名 · 2026年9月9日に作成
[Feature]: very slow to quatnize qwen3.8-flash-next for full attention layers オープン

enhancement

難易度 4/5 3〜5日初心者へのやさしさ 48/100

intel/auto-round#2323 · 2026年9月9日に作成
[Feature]: support data parallel オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 20/100

intel/auto-round#2307 · 2026年9月6日に作成
RFC: Recurrent Residual Quantization (RRQ) INT2+2+2+2 オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

intel/auto-round#2300 · 2026年9月4日に作成
[Feature]: expand AWQ experiments to low-bit INT and Hadamard combinations オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 35/100

intel/auto-round#2298 · 2026年9月4日に作成
Quality Assurance for v0.16.0 オープン

high priority

intel/auto-round#2283 · コメント 5 件 · 担当者 2 名 · 2026年9月3日に作成
[Bug]: Fix AutoRound gradients for Kimi-VL routed experts- #2097 オープン

bug

intel/auto-round#2282 · 担当者 1 名 · 2026年9月3日に作成
[Model]: nvfp4 wan 2.2 t2v オープン

Model Support

intel/auto-round#2269 · 担当者 1 名 · 2026年9月1日に作成
[UT] tiny_qwen_moe_model_path loads the full Qwen1.5-MoE-A2.7B checkpoint オープン

intel/auto-round#2267 · 担当者 1 名 · 2026年9月1日に作成
[Feature]: support and eval H-Scale: Hessian-Guided Scale Refinement for NVFP4 Sub-Byte LLM Inference オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

intel/auto-round#2262 · 2026年8月31日に作成
[Bug]: imbalanced memory usages across cards オープン

bug

難易度 4/5 3〜5日初心者へのやさしさ 45/100

intel/auto-round#2254 · コメント 2 件 · 2026年8月28日に作成
[Feature]: support reap オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 30/100

intel/auto-round#2237 · 2026年8月26日に作成
Track Wan2.2 dual-transformer quantization memory and tuning cost オープン

intel/auto-round#2235 · 担当者 1 名 · 2026年8月26日に作成
[Feature]: support FP8+WOQ mix datatypes inference in transformers and vllm オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 20/100

intel/auto-round#2225 · 2026年8月25日に作成
[Bug]: unexpected enable_quant_input: false in config.json for FP8_BLOCK オープン

bug

intel/auto-round#2224 · 担当者 1 名 · 2026年8月25日に作成
[Feature]: svdquant supports llm and other schemes(W2A16) オープン

enhancement

intel/auto-round#2218 · 担当者 1 名 · 2026年8月24日に作成
[Bug]: qwen3.8-27B q2ks is larger than unsloth's Q2KL オープン

enhancement low priority

難易度 4/5 3〜5日初心者へのやさしさ 30/100

intel/auto-round#2217 · コメント 1 件 · 2026年8月24日に作成
[Bug]: ARK SageV1 BF16 D128 causes DEVICE_LOST on Windows Arc B580 オープン

bug

intel/auto-round#2213 · 担当者 1 名 · 2026年8月22日に作成
[Model]: TR-HASH MoE with stacked 3D expert weights オープン

Model Support

難易度 4/5 3〜5日初心者へのやさしさ 55/100

intel/auto-round#2211 · 2026年8月21日に作成
[Feature]: the ram usage of quantizing gemma-4-26B-A4B-it is too high オープン

enhancement

intel/auto-round#2210 · 担当者 1 名 · 2026年8月21日に作成
[Bug]: woq_gemm's m > 1 path submits its oneDNN matmul to a cached stream bound to the first queue ever seen, so it is never recorded into a torch.xpu graph and every replay returns zeros オープン

intel/auto-round#2206 · コメント 5 件 · 担当者 1 名 · 2026年8月21日に作成
[Feature]: mxfp4 dual-scale investigate オープン

intel/auto-round#2199 · 担当者 1 名 · 2026年8月20日に作成
[LLMC] llama3.1_W8A8_FP8_Block: ValueError: AutoRoundModifier only supports channel-wise and tensor-wise weight quantization オープン

intel/auto-round#2196 · コメント 1 件 · 担当者 1 名 · 2026年8月20日に作成
[LLMC] llama3_wNa16_FP8KV: AttributeError: 'NoneType' object has no attribute 'group_size' オープン

intel/auto-round#2195 · コメント 1 件 · 担当者 1 名 · 2026年8月20日に作成
[Bug]: auto-scheme wrongly changes dataset when oom オープン

bug

intel/auto-round#2185 · コメント 2 件 · 担当者 1 名 · 2026年8月18日に作成
[Feature]: auto-scheme shared_layers supports vllm pattern as default オープン

enhancement

intel/auto-round#2183 · 担当者 1 名 · 2026年8月18日に作成
[Feature]: refine lm-head quantization オープン

enhancement

難易度 5/5 1週間以上初心者へのやさしさ 25/100

intel/auto-round#2176 · 2026年8月18日に作成
[discussions]: [Compatibility/vLLM] AutoScheme mixed-bit export (llm_compressor) fails in vLLM with AssertionError in load_merged_column_weight オープン

bug

intel/auto-round#2174 · コメント 1 件 · 担当者 1 名 · 2026年8月17日に作成
[Bug]: dump auto-round key hype-parameters to conifg.json オープン

bug

intel/auto-round#2154 · 担当者 1 名 · 2026年8月13日に作成
Qwen3-30B-A3B-Instruct-2507 bf16 vllm eval failed on H200 オープン

intel/auto-round#2151 · 担当者 1 名 · 2026年8月12日に作成
[Feature]: accuracy issue Intel/Qwen3.6-27B-int4-AutoRound オープン

enhancement

intel/auto-round#2142 · コメント 5 件 · 担当者 1 名 · 2026年8月11日に作成
[Feature]: refine architecture code オープン

enhancement

intel/auto-round#2126 · 担当者 1 名 · 2026年8月5日に作成
[Feature]: hadamard vllm inference support オープン

enhancement

intel/auto-round#2122 · コメント 2 件 · 担当者 1 名 · 2026年8月4日に作成
[Feature]: each calibration dataset set its own default apply_chat_template value オープン

enhancement

intel/auto-round#2099 · 担当者 1 名 · 2026年7月29日に作成
[Feature]: better use more data for auto-sheme which involves 2 bits オープン

enhancement

intel/auto-round#2091 · 担当者 1 名 · 2026年7月27日に作成
[Feature]: refine auto-round -h オープン

enhancement

intel/auto-round#2078 · 担当者 1 名 · 2026年7月23日に作成
[Bug]: step 2 refactor issues オープン

bug

intel/auto-round#2077 · 担当者 1 名 · 2026年7月23日に作成
Create default mixed calibration dataset オープン

high priority

intel/auto-round#2071 · コメント 5 件 · 担当者 1 名 · 2026年7月21日に作成
[Feature]: refine hardmard code オープン

enhancement high priority

intel/auto-round#2036 · コメント 1 件 · 担当者 1 名 · 2026年7月9日に作成
Training-free sparse attention explore オープン

high priority

intel/auto-round#2024 · 担当者 1 名 · 2026年7月8日に作成
[Feature] Support quant parallelism on multi-GPU オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

intel/auto-round#2010 · コメント 4 件 · 2026年7月7日に作成
[Feature]: Support FP/INT W4A4 recipe オープン

intel/auto-round#2009 · 担当者 1 名 · 2026年7月7日に作成

intel/auto-round

新しい issue をメールで受け取る