verl-project/verl

[FR] Documentation about Resolving OOM

已關閉

#1,014 建立於 2025年4月10日

在 GitHub 查看貢獻者指南
 (6 則留言) (7 個反應) (0 位負責人)Python (4,440 個分叉)auto 404
call for contributiondocumentationgood first issue

倉庫指標

星標
 (23,087 顆星)
PR 合併指標
 (平均合併 3天 6小時) (30 天內合併 125 個 PR)

描述

Motivation

There are many issues related to OOM, e.g. #328 . We might need a clear guide about how to resolve OOM.

Plan

A non-exclusive enumeration about related configurations:

  1. Rollout：gpu_memory_utilization
  2. Other Inference：
    1. Liger Kernel
    2. *_max_len_per_gpu / micro_batch_size_per_gpu
  3. Training:
    1. Liger Kernel
    2. Ulysses Sequence Parallelism
    3. gradient checkpointing
    4. offload

TODO

  • Complete the list of related configurations
  • Benchmark the effect & overhead of each configuration

貢獻者指南

研究方向
調查現有的 OOM 相關問題，例如 #328，以識別常見情境。針對列出的每個配置（rollout 的 gpu memory utilization、Liger Kernel、max len/gpu、梯度檢查點等），基準測試它們對記憶體使用和訓練效能的影響。將研究結果記錄在結構化指南中，並引用相關的原始檔，如配置腳本和訓練迴圈。
技術棧
pythonpytorch
領域
documentationperformance
議題類型
文件
難度面向新貢獻者的預計實作難度，1 表示很小改動，5 表示專家級工作。
3
預計時間有經驗貢獻者完成調查、實作、測試並準備 pull request 的粗略時間範圍。
1-2 天
活動狀態議題目前的可參與程度：新鮮、活躍、陳舊、阻塞或等待維護者輸入。
活躍
清晰度議題是否清楚說明預期改動、驗收標準和下一步。
清晰
前置要求
basic Pythonfamiliarity with PyTorchunderstanding of GPU memory
新手友善度1-100 的估計分數，表示該議題對首次貢獻者的友善程度。
70