Qwen3.5 35B-A3B hybrid MoE weak and strong scaling
オープン
@ibaucells がすでに取り組んでいます。
2026年10月13日 から。
評価
この issue はまだ評価されていません。
説明
T4.1 - Optimization HPC
Weak and strong scaling of the hybrid MoE Qwen3.5-35B-A3B model
Scaling hyperparameters
- Fixed global batch size of max 4096
- Node count: min node count (1 node if possible as baseline else higher), 2, 4, 16, 64 higher if possible
Metrics
- Tokens/s/GPU
- TFLOPs/GPU
- MFU
Environment
- Cluster:
- Code:
- Container:
- W&B:
- Megatron LM submodule:
- 主要言語
- 言語のデータがありません
- スター
- 3
- フォーク
- 0
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
OpenEuroLLM/Taskboard のほかの issue
-
[nucleus sparse] Experiment setup対応中かも @aaronkl が 7 日前に担当しました。 オープンT4.1 - Optimization HPC T4.2 - model exploration
OpenEuroLLM/Taskboard#439 · リアクション 1 件 · 担当者 1 名 ·
-
Synthetic Generation for Multilingual Instruction Tuning対応中かも @abhash-er が 8 日前に担当しました。 オープン4.6 post-training
OpenEuroLLM/Taskboard#437 · 担当者 1 名 ·
-
Safety and alignment evaluation対応中かも @BirgerMoell が 8 日前に担当しました。 オープン4.6 post-training
OpenEuroLLM/Taskboard#436 · 担当者 1 名 ·
-
Finding optimal dataset mixtures for DPO対応中かも @geoalgo が 8 日前に担当しました。 オープン4.6 post-training
OpenEuroLLM/Taskboard#435 · 担当者 3 名 ·
-
DPO checkpoint merging対応中かも @HannanJaved が 8 日前に担当しました。 オープン4.6 post-training
OpenEuroLLM/Taskboard#434 · コメント 2 件 · 担当者 1 名 ·