Community: 2.9x faster consumer-GPU inference (sub-realtime on RTX 4090) + two model-card findings
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 45/100
- issue の種類
- ドキュメント
- 明瞭さ
- おおむね明確
- 活発さ
- 静か
- 技術スタック
- python, pytorch
調査の方向性
model card の low-VRAM ガイダンスと記載されている 32kHz のサンプルレートを、報告されている diffusers pipeline の測定結果と照合します。リポジトリの README を読んで、文書化されている最適化結果と否定的な結果を確認します。model card がサポートされている offload ガイダンスと pipeline の報告された出力レートを正確に反映し、必要に応じてパフォーマンスの文脈が文書化されていれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Hi MiniMax team — first, thank you for open-weighting Music 3; it is a
remarkable model. We spent a focused engineering session getting it to run as
fast as possible on a single consumer GPU (RTX 4090, Windows, the diffusers
modular pipeline) and open-sourced the result as a local Suno-style studio:
https://github.com/TheDutchRuler/minimax-music3-studio
Measured results (20s songs, warm, seed-fixed, bf16 reference precision):
| Configuration | Per song |
|---|---|
| Reference diffusers pipeline | 50.5s (2.52x realtime) |
| Compiled AR decode (StaticCache + CUDA graphs) + batched-CFG DiT + sliced lm_head + Gumbel-max fused sampling | ~31s |
| Batched "ensemble" generation, 3 variations in one lockstep pass | 17.7s (0.88x realtime) |
The ensemble idea may interest you most: the AR stage is memory-bandwidth
bound (~23GB of weight reads per frame), so K same-prompt variations decoded
in one batch-2K pass amortize the read — the third song is nearly free. All
math stays row-independent and distribution-identical to the reference
sampler (Gumbel-max equivalence unit-tested).
Two findings you may want to reflect in the model card:
-
The low-VRAM snippet is counter-productive for the AR stage. The card
suggestsapply_group_offloading(pipe.language_model, ..., use_stream=True)
for small cards. Because the Global LLM decodes autoregressively at 25
forwards/second, per-layer offload re-streams the full 16.4GB across PCIe
every frame — we measured 10% GPU utilization and effectively no progress.
Additionally,use_stream=Truepins host memory and roughly doubled
process RSS (31-38GB) on a 61GB machine. Whole-component offload
(ComponentsManager.enable_auto_cpu_offload()alone) works well. -
Sample-rate mismatch: the card says 32kHz output, but the diffusers
pipeline reports and produces 44.1kHz (pipe.sampling_rate == 44100).
Also documented in the repo README: negative results (FP8 weight-only via
torchao measured 2.1x slower on Windows/torch 2.11; per-layer offload above)
so others don't repeat them.
This work was engineered end-to-end with Claude (Fable 5 Max) by Anthropic.
Happy to provide more detail on any measurement.
- 主要言語
- 言語のデータがありません
- スター
- 896
- フォーク
- 84
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトの環境構築ファイルはまだ確認していません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
MiniMax-AI/MiniMax-Music3 のほかの issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
MiniMax-AI/MiniMax-Music3#4 · リアクション 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
Long-form instrumental collapse into radio/station-surfing montage + hallucinated lyrics (~10–20s)オープン
難易度 4/5 3〜5日 初心者へのやさしさ 45/100
MiniMax-AI/MiniMax-Music3#7 · コメント 1 件 · リアクション 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
MiniMax-AI/MiniMax-Music3 の issue をすべて見る
似ている issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 90/100
メンテナーはふだん 1 日以内に返信
-
documentation good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 90/100
amponce/archive-movie-browser#340 ·
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 92/100
bytecodealliance/wasmtime#14433 ·
メンテナーはふだん 1 日以内に返信
-
documentation
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
antropos17/Aegis#629 ·
メンテナーはふだん 4 日以内に返信
-
module-request
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
メンテナーはふだん 1 日以内に返信