different load_balancing_loss with different pipeline_parallel_size
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- バグ
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- python
調査の方向性
報告された64エキスパートの500M GPT構成を再現し、pipeline_parallel_sizeを1、2、4の間で変化させたうえで、load_balancing_lossを報告された値と比較します。差異が数値精度によるものか、パイプライン並列の集約に関する問題によるものかを調査します。異なる値を説明し、バグが存在するかどうかを確認できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
I load the same model trained with megatron + megablocks, and I found the load_balancing_loss is slightly different. When I increase the pipeline_parallel_size, the load_balancing_loss is also increasing. Is it just the problem of precision or there is a potential bug？
For example, when I train a 500M gpt model with 64 experts, I list the lbl and pp_size in the table below.
| pp_size | lbl |
|---|---|
| 1 | 1.005E-01 |
| 2 | 1.007E-01 |
| 4 | 1.013E-01 |
- 主要言語
- Python
- スター
- 1.6k
- フォーク
- 230
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
databricks/megablocks のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
databricks/megablocks#188 · コメント 2 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
databricks/megablocks#184 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 30/100
databricks/megablocks#180 · コメント 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
databricks/megablocks#179 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 35/100
databricks/megablocks#178 · コメント 1 件 ·
databricks/megablocks の issue をすべて見る
似ている issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
Graphify-Labs/graphify#4524 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
topoteretes/cognee#5982 ·
メンテナーはふだん 1 日以内に返信
-
Patches of derivations with `__structuredAttrs` are ignored対応中かも @KiaraGrouwstra が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 81/100
nix-community/vulnix#184 ·
-
New Internshipオープンnew_internship
難易度 1/5 1時間未満 初心者へのやさしさ 65/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 64/100
aws-samples/sample-per-model-bedrock#295 ·
メンテナーはふだん 1 日以内に返信