Multi-GPU training & batchsize problem

オープン
#102 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
25/100
issue の種類
機能追加
明瞭さ
説明が足りない
活発さ
停滞
技術スタック
python

調査の方向性

docs/README-SVS-opencpop-cascade.md と tasks/base_task.py の 88 行目付近を読み、トレーニングのエントリーポイント、DDP 設定、バッチサイズの設定を追跡します。必要なマルチ GPU 構成と、バッチサイズが GPU 数とどのように関係するかを確認し、そのうえで想定されるトレーニング実行を再現可能にするために構成を文書化またはテストします。

索引モデルが issue の本文から書いたものです。

説明

Hi, I really appreciate your work and now I'm going to train the model on this pipeline. My issues are as follows:

  1. I note that you have adapted the code to multi-GPU versions with DDP, but I cant figure out how to train with multi-GPU. Maybe I should set self.use_ddp = True here ?
  2. In the paper you mentioned that you trained DiffSinger on 1 NVIDIA V100 GPU with 48 batch size. However, I can't find any customizable variable related to batch size. Is it necessary to set batch size to match the number of GPU, if I want to train with multi-GPU?
    Any suggestion is welcome.
主要言語
Python
スター
4.9k
フォーク
826
PR マージ指標
30日以内にマージされた PR はありません

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

MoonInTheRiver/DiffSinger のほかの issue

MoonInTheRiver/DiffSinger の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。