Very slow training
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 20/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- python
- Lĩnh vực
- machine-learning, performance
Hướng nghiên cứu
Không có tệp, bài kiểm thử hoặc điểm vào nào được nêu. Hãy bắt đầu bằng cách tái hiện quá trình huấn luyện trên dataset DGL đồ thị 5K được mô tả và lập hồ sơ công việc của CPU so với mức sử dụng GPU; công việc được xem là hoàn tất khi xác định được một nút thắt CPU cụ thể và chứng minh được quá trình huấn luyện nhanh hơn, hoặc ghi chép rõ ràng bước giới hạn.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
I am training graphormer-slim on a custom dataset with 5K graphs and the loss is coming down nicely. However, the GPU utilization is close to zero while the CPU processes (16) are very busy, which means that the CPU is the bottleneck and I could be training much faster...
Is there anyway to make the CPU side faster?
details:
graphs in DGL format
50-100 nodes per graph
1-3 edges per node
- Ngôn ngữ chính
- Python
- Star
- 2.5k
- Fork
- 374
- Merge trung bình
- 14 giờ 51 phút
- Pull request đã merge (30 ngày)
- 3
Chuẩn bị môi trường
Chúng tôi chưa kiểm tra các tệp thiết lập môi trường của dự án này. Hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của microsoft/Graphormer
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
microsoft/Graphormer#211 ·
-
SAS updataĐang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100
microsoft/Graphormer#210 ·
-
Interpolation between statesĐang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
microsoft/Graphormer#208 ·
-
CUDA out of memoryĐang mở
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 20/100
microsoft/Graphormer#207 · 1 bình luận ·
-
How do I prepare OC20 dataset?Đang mở
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100
microsoft/Graphormer#205 ·
Tất cả issue của microsoft/Graphormer
Issue tương tự
-
needs triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
openvinotoolkit/openvino_notebooks#3665 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
Maintainer thường phản hồi trong vòng 1 ngày
-
docs
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
Maintainer thường phản hồi trong vòng 1 ngày
-
benchmark-gap
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày