Qwen3模型PD分离的工作负载仿真结果不正确的问题
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
調査の方向性
レポート内のコマンドを使用して、scripts/inference_workload_with_aiob.sh、scripts/inference_configs/qwen3_moe_default.json、および bin/SimAI_analytical でケースを再現します。生成された Qwen3-Moe workload がどのように消費されるか、また bubble と通信の割合がどのように計算されるかを調査します。同じ workload が bubble 時間 100%、通信時間 0 と報告しなくなり、原因が特定されれば完了です。
索引モデルが issue の本文から書いたものです。
説明
您好，我在使用新代码做仿真时遇见仿真结果不正确的情况，向您请教。我的使用如下：
首先生成Qwen3-moe模型的prefill工作负载，指令如下：sh ./scripts/inference_workload_with_aiob.sh -m qwen3-235B
-c ./scripts/inference_configs/qwen3_moe_default.json
-s 32768 -b 4 -w 12288 -t 8 -l 16 -e 32 -p prefill
生成的负载文件为：Qwen3-Moe-235B-world_size12288-tp8-pp16-ep32-bs4-seq32768-prefill.txt。
下一步进行analytical仿真，命令如下： ./bin/SimAI_analytical -w aicb/results/workload/Qwen3-Moe-235B-world_size12288-tp8-pp16-ep32-bs4-seq32768-prefill.txt -g 12288 -g_p_s 8 -r prefill- -nv 380 -nic 50
生成的结果中bubble time为100%，其他策略的通信时间占比都为0，请问这是为什么以及如何解决？
感谢感谢。
- 主要言語
- Python
- スター
- 1.2k
- フォーク
- 190
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
aliyun/SimAI のほかの issue
-
运行vidur时，采用“backend=aicb” 导致 attention 耗时路径读取缺失的 attn_kv_cache_save_* 字段并触发 KeyError対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
Duplicated groups for EP and DP_EP対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
hpn组网问题オープン
難易度 4/5 1〜2日 初心者へのやさしさ 45/100
-
Spectrum-X和HPN组网下，通信仿真时间问题対応中かも @tianhao909 が 19 日前に担当しました。 オープン
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 64/100
-
[Bug]: Responses API 500s on assistant message with empty content list対応中かも @shadowmodder が今日担当しました。 オープンbug
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
vllm-project/vllm#64940 ·
メンテナーはふだん 1 日以内に返信
-
limits
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
メンテナーはふだん 1 日以内に返信
-
agent-ready area: docs documentation good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
Soneso/stellar-agent-wallet#524 ·
メンテナーはふだん 1 日以内に返信
-
Status: Triage Type: Quest
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
GTNewHorizons/GT-New-Horizons-Modpack#27490 ·
メンテナーはふだん 1 日以内に返信