[feat] FP8 training
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 8/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Lĩnh vực
- ai-infra-agents
Hướng nghiên cứu
This is an open design question spanning matmul kernels and attention integration, with no linked pull request and no assignee. The payload names no concrete file or test to start from, so a newcomer would first need to read the training stack and the FlashAttention 3 FP8 discussion it links. Done would mean a recorded decision on FP8 attention plus a BF16-versus-FP8 loss comparison, which is maintainer-level scope.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
🧐 Problem Description
FP8 training can significantly improve training throughput by reducing memory requirements and improving computational efficiency. However, challenges remain in integrating FP8 across all components of the training stack, such as FlashAttention, while maintaining model performance and stability. For example, the FP8 implementation in FlashAttention 3 raises questions about quantization accuracy and latency between operations.
💡 Proposed Solution
Introduce FP8 training in Fast-LLM with the following steps:
- Matmul Operations: Implement FP8-compatible matrix multiplication using Transformer Engine or Triton kernels.
- FlashAttention Compatibility:
- Evaluate the feasibility of integrating FlashAttention 3, which supports FP8.
- Address concerns about quantization accuracy and potential pipeline latency.
- Explore alternatives like FlexAttention if FlashAttention 3 proves unsuitable.
- Validation:
- Compare loss curves and convergence behavior between FP8 and BF16 to ensure model stability and performance.
🔄 Alternatives Considered
- Continue with BF16/FP16 Precision:
- Pros: Stable and widely supported.
- Cons: Misses throughput and memory benefits of FP8.
- Partial FP8 Integration:
- Pros: Focuses on high-impact components like matrix multiplications.
- Cons: Could complicate debugging due to mixed precision across components.
- FlexAttention:
- Pros: Potentially better support for FP8.
- Cons: May require more development and testing for integration. May be slower than FlashAttention 3.
📈 Potential Benefits
- Increased Throughput: FP8 training has demonstrated up to 1.5x speedup compared to BF16 on NVIDIA H100 GPUs.
- Enhanced Efficiency: Reducing memory overhead enables larger batch sizes and improves GPU utilization.
- Scalability: Lower precision facilitates training on larger clusters without hitting memory limits.
- Comparable Convergence: Loss curves for FP8 have been shown to closely track those for BF16, ensuring minimal compromise in training stability.
📝 Additional Context
- Key Findings from Databricks:
- FP8 training achieves ~1.5x throughput improvement.
- Integrated with PyTorch FSDP and activation checkpointing for memory efficiency.
- Loss curves for FP8 closely match BF16 during training.
- Databricks Blog: Turbocharged Training with FP8.
- FlashAttention 3 Insights:
- FlashAttention 3 supports FP8 but has open questions about latency and accuracy.
- FlashAttention 3 Issue: FP8 Concerns.
- Known Challenges:
- Managing FP8 weight storage and quantization scaling.
- Addressing pipeline latency issues in FP8 operations.
- Ensuring alignment between different FP8-compatible components.
- Ngôn ngữ chính
- Python
- Star
- 337
- Fork
- 52
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của ServiceNow/Fast-LLM
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
ServiceNow/Fast-LLM#556 ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100
ServiceNow/Fast-LLM#538 ·
-
enhancement
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 12/100
ServiceNow/Fast-LLM#533 ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
ServiceNow/Fast-LLM#510 · 1 bình luận ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 12/100
ServiceNow/Fast-LLM#507 ·
Tất cả issue của ServiceNow/Fast-LLM
Issue tương tự
-
getchaintips leaves out the active tip once a header is staged on it, where Core always lists itĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
btclib-org/btclib-node#2158 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 85/100
dbt-msft/dbt-sqlserver#897 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
Gathin23/cleanyourtv#2770 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
vllm-project/vllm#64845 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
dekobon/big-code-analysis#1729 ·
Maintainer thường phản hồi trong vòng 1 ngày