How to run GPipe in distributed manner?

Đang mở
  • Có gì không ổn?
#245 8 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức phù hợp với người mới
25/100
Loại issue
Tài liệu
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Đình trệ
Công nghệ
python, tensorflow
Lĩnh vực
distributed-systems, machine-learning

Hướng nghiên cứu

The issue names lm.one_billion_wds.OneBWdsGPipeTransformerWPM as the single-node example, but gives no documentation or test paths to start from. First check whether Lingvo supports running GPipe across multiple nodes, then look for an existing tutorial or example that explains the configuration. Done means the distributed support status is clear and, if supported, users have a working configuration example.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

I was able to run GPipe with lm.one_billion_wds.OneBWdsGPipeTransformerWPM in a single node with multiple GPUs.

However, I am a little confused about how to run GPipe with multiple nodes (or workers termed in Lingvo's configuration).
I am not even sure if the current version supports distributed pipeline parallelism.

If, hopefully, Lingvo does support distributed pipeline parallelism, I would appreciate it if there are any tutorials or examples to help me to configure distributed GPipe :)

Ngôn ngữ chính
Python
Star
2.9k
Fork
452
Không có pull request nào được merge trong 30 ngày

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của tensorflow/lingvo

Tất cả issue của tensorflow/lingvo

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.