[Bug]: offloder cleaning failed
メンテナーはふだん 1 日以内に返信
評価
この issue はまだ評価されていません。
説明
Problem Description
CUDA_VISIBLE_DEVICES=7 python3 -m auto_round ../Qwen3.8-27B/ --iters 0 --disable_opt_rtn --scheme mxfp4 --tasks mmlu --eval_bs 16 --format fake
uantizing model.language_model.layers.61: 95%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 61/64 [04:35<00:12, 4.30s/it]2026-10-09 20:01:26 INFO device.py L1553: 'peak_ram': 3.02GB, 'peak_vram': 6.01GB
Quantizing model.language_model.layers.62: 97%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ | 62/64 [04:39<00:08, 4.31s/it]2026-10-09 20:01:30 INFO device.py L1553: 'peak_ram': 3.04GB, 'peak_vram': 6.01GB
Quantizing model.language_model.layers.63: 98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████ | 63/64 [04:44<00:04, 4.32s/it]2026-10-09 20:01:34 INFO device.py L1553: 'peak_ram': 3.08GB, 'peak_vram': 6.01GB
Quantizing model.language_model.layers.63: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 64/64 [04:48<00:00, 4.31s/it]2026-10-09 20:01:37 WARNING offload.py L938: OffloadManager: cleanup failed for /home/wenhuach/auto-round/ar_work_space/offload/compressor_ny51qx4s: [Errno 16] Device or resource busy: '/home/wenhuach/auto-round/ar_work_space/offload/compressor_ny51qx4s'
Quantizing model.language_model.layers.63: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 64/64 [04:51<00:00, 4.55s/it]
2026-10-09 20:01:37 WARNING base.py L1949: Support for exporting activation quantization is limited. Please ensure that your configuration is supported.
2026-10-09 20:01:37 WARNING fake.py L139: Saving fake-quantized model to disk. Linear replacement is deferred to load-time (via auto_round:fake backend); save-time now keeps the in-memory quantized model structure unchanged.
Writing model shards: 0%| | 0/2 [00:00<?,
Reproduction Steps
~
Environment Information
~
Error Logs
Additional Context
No response
- 主要言語
- Python
- スター
- 1.7k
- フォーク
- 193
- 平均マージ
- 2日 4時間
- マージ済み PR（30日）
- 50
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
intel/auto-round のほかの issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
intel/auto-round#2525 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 44/100
intel/auto-round#2532 ·
メンテナーはふだん 1 日以内に返信
-
[Bug]: FP8 static KV cache accuracy issue対応中かも @xin3he が 7 日前に担当しました。 オープンbug
intel/auto-round#2518 · リアクション 1 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
[Feature]: split special_model_handler to a folder対応中かも @Cross2pro が今日担当しました。 オープンenhancement
難易度 3/5 半日 初心者へのやさしさ 42/100
intel/auto-round#2514 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 3/5 1〜2日 初心者へのやさしさ 20/100
intel/auto-round#2507 ·
メンテナーはふだん 1 日以内に返信
intel/auto-round の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 67/100
メンテナーはふだん 2 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
letsencrypt/cp-cps#361 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
-
CI: startup_failure because callers grant fewer permissions than ledger-app-workflows@v1 declares対応中かも @maykonmichel が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
LedgerHQ/app-boilerplate-rust#227 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
linuxmint/mintupdate#1107 ·