[Out of Box Experience]: ROCm Transformer Engine Should Be Included in AMD Pytorch Images
Maintainer thường phản hồi trong vòng 2 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 35/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Lĩnh vực
- devops, machine-learning
Hướng nghiên cứu
Start by reviewing how the rocm/pytorch and rocm/pytorch-nightly images are defined and how Transformer Engine is installed for AMD GPUs. Confirm the required build flags and image packaging approach, then verify that Transformer Engine is available out of the box in both images without end-user installation.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Suggestion Description
Hi @hliuca ,
On Nvidia NGC Pytorch Containers nvcr.io/nvidia/pytorch:24.xx-py3, Transformer Engine is included out of the box. This leads to less end user installation misconfiguration issues such as not using the correct build flags.
Currently on rocm/pytorch& on rocm/pytorch-nightly, Transformer Engine is not included out of the box.
It would be great to have parity with Nvidia on this.
https://docs.nvidia.com/deeplearning/frameworks/pytorch-release-notes/rel-24-09.html
Operating System
Ubuntu
GPU
MI300X
ROCm Component
No response
- Ngôn ngữ chính
- Python
- Star
- 77
- Fork
- 36
- Merge trung bình
- 3 ngày 16 giờ
- Pull request đã merge (30 ngày)
- 10
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của ROCm/TransformerEngine
-
CP LSE merge switches compiled variants on ROCm, breaking forward reproducibilityCó thể đã có người làm @zjin-lcf đã nhận 60 ngày trước. Đang mở
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
ROCm/TransformerEngine#693 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
bug
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100
ROCm/TransformerEngine#665 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
MXFP8 uses logical block size 32, but some ROCm training paths still hard-require `block_len == 128`Có thể làm lại được @adityas-amd đã nhận 187 ngày trước và không có pull request nào đang mở. Đang mởbug status: triage
ROCm/TransformerEngine#539 · 1 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Enable FP8 (E4M3/E5M2) kernel execution for Radeon AI PRO R9700 (gfx1201, RDNA4)Có thể làm lại được @adityas-amd đã nhận 339 ngày trước và không có pull request nào đang mở. Đang mởenhancement status: triage
ROCm/TransformerEngine#359 · 6 bình luận · 3 reaction · 1 người được giao ·
Maintainer thường phản hồi trong vòng 2 ngày
-
nvfp4Đang mởenhancement
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100
ROCm/TransformerEngine#358 ·
Maintainer thường phản hồi trong vòng 2 ngày
Tất cả issue của ROCm/TransformerEngine
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 77/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 67/100
webrecorder/warcio#209 ·
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
Jeffy123-zhu/logspecter#20 ·
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
Maintainer thường phản hồi trong vòng 1 ngày