Incorrect EndToEnd total_time in SimAI_analytical results
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 30/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- python
- 領域
- performance
調査の方向性
issue に記載されたコマンドを使用してワークロード生成と解析シミュレーションを再現し、その後、生成された ws1472-tp8-pp8EndToEnd.csv ファイルを調査します。例外的に大きい Expose DP comm の値に注目し、提供されたワークロードおよび他の実験結果と比較します。EndToEnd total_time が検証済みの Expose DP comm 値を報告すれば完了です。
索引モデルが issue の本文から書いたものです。
説明
1. Environment Info
- OS: [ Ubuntu 22.04.4 LTS]
- SimAI Commit: [e5d1251]
- Python Version: [Python 3.11.12]
2.Steps to Reproduce
Step 1: Generate Workload
- Working Directory:
/root/simai/SimAI/aicb/ - Command Executed:
uv run -m workload_generator.SimAI_training_workload_generator \ --frame=Megatron \ --world_size=1472 \ --tensor_model_parallel_size=8 \ --pipeline_model_parallel=8 \ --global_batch=32 \ --micro_batch=1 \ --epoch_num=1 \ --model_name=gpt_13B \ --hidden_size=5120 \ --num_layers=40 \ --seq_length=4096 \ --num_attention_heads=40 \ --vocab_size=50257 \ --max_position_embeddings=4096 \ --ffn_hidden_size=11008 \ --dtype=bfloat16 \ --enable_sequence_parallel \ --swiglu \ --make_vocab_size_divisible_by=128 \ --workload_only \ --output_filename=two_phase_opt_phase1/ws1472-tp8-pp8 \ --aiob_enable \ --comp_filepath=/root/simai/SimAI/aicb/workload/aiob_inputs/A100_A800.txt - Generated Workload: ws1472-tp8-pp8.txt
Step 2: Run Analytical Simulation
- Working Directory:
/root/simai/SimAI/ - Command Executed:
/root/simai/SimAI/bin/SimAI_analytical \ -w /root/simai/SimAI/aicb/results/workload/two_phase_opt_phase1/ws1472-tp8-pp8.txt \ -g 1472 \ -g_p_s 16 \ -n_p_s 5 \ -r two_phase_opt_phase1/ws1472-tp8-pp8 \ -g_type A800 \ -nic 37.47811737589823 \ -dp_o 0.5 \ -tp_o 0.7 \ -ep_o 0.8 \ -pp_o 0.5 - Result File: ws1472-tp8-pp8EndToEnd.csv
3. The Issue
In the generated EndToEnd.csv file, the Expose DP comm time is exceptionally large,This occurs consistently in many experiments
- 主要言語
- Python
- スター
- 1.2k
- フォーク
- 194
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
aliyun/SimAI のほかの issue
-
运行vidur时，采用“backend=aicb” 导致 attention 耗时路径读取缺失的 attn_kv_cache_save_* 字段并触发 KeyError対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
Duplicated groups for EP and DP_EP対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
hpn组网问题オープン
難易度 4/5 1〜2日 初心者へのやさしさ 45/100
-
Spectrum-X和HPN组网下，通信仿真时间问题対応中かも @tianhao909 が 21 日前に担当しました。 オープン
似ている issue
-
area:scripts area:tests bug priority:later
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
Ikalus1988/MisakaNet#4358 ·
メンテナーはふだん 1 日以内に返信
-
Discovered ports from service discovery are never propagated to modules in Module.load()対応中かも @vishalmore90 が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
OWASP/Nettacker#1828 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 88/100
aws-samples/sample-per-model-bedrock#708 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
sjkim1127/Reversecore_MCP#365 ·
メンテナーはふだん 1 日以内に返信