[QUESTION]How to Use ndtimeline in a Multi-Machine Multi-GPU Environment

オープン
#55 コメント 4 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
3/5
見積もり時間
半日
初心者へのやさしさ
18/100
issue の種類
ドキュメント
明瞭さ
説明が足りない
活発さ
停滞
技術スタック
python, pytorch

調査の方向性

This is a usage question rather than a scoped change: it asks whether ndtimeline works across multiple machines, how events are flushed, how communication is represented and how custom time-events are defined. Start by reading the ndtimeline documentation and the code that collects and flushes timeline events for a single machine, then check how rank-local traces would need to be merged across hosts. Done means a documented answer covering multi-machine support, flush behaviour and custom events, not a code change.

索引モデルが issue の本文から書いたものです。

説明

Does it support Muti-Machine and Muti-GPU to use ndtimeline??
Now,I can use single-Machine and Muti-GPU to analyze GPT with the ndtimeline tool,
but I wandered does it support Muti-machine?? how to flush the ndtimeline? and how to deal with the commnication ? how to define custom time-event ?
Thanks!
the following picture using single-Machine and four GPUs
Megatron

@MingjiHan99 @pengyanghua @MackZackA @JsBlueCat @Meteorix

主要言語
Python
スター
1k
フォーク
65
平均マージ
21時間 34分
マージ済み PR(30日)
1

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

volcengine/veScale のほかの issue

volcengine/veScale の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。