[Question] Any plans to support pipeline RL to avoid ramp down time during weight update in sglang servers
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 30/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 静か
- 技術スタック
- python
調査の方向性
slime のドキュメントと FAQ から始め、次に、バージョン 0.2.4 で重み転送中に SGLang サーバーがどのようにリクエストを段階的に減らしていくかを追跡します。その動作を pipeline RL の論文と比較し、既存の設定または実装で段階的な縮小を回避できるかどうかを判断します。回答を文書化するか、必要なサポートを明確に定義できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Your Question
I am running slime for qwen3.5 397B model and the weight transfer is taking too long. I tried to profile the delay and it seems i am taking a lot of time in ramp down of requests in SGLang servers. Is it possible to avoid this ramp down during weight transfer similar to what has been done in pipeline RL paper: https://arxiv.org/pdf/2509.19128 for vllm. Let me know if its already supported or if there is an open PR to add this functionality.
What I've Tried
I have tried looking at documentation and FAQ but could not find the implementation or a direct way to use it in slime.
Environment (if relevant)
- slime version: v0.2.4
Additional Context
No response
Pre-submission Checklist
- I have read the CONTRIBUTING.md and understand the collaboration scope.
- I have read the documentation and FAQ and my question is not answered there.
- I have searched for existing issues and my question has not been asked before.
- 主要言語
- Python
- スター
- 8.8k
- フォーク
- 1.3k
- 平均マージ
- 20時間 16分
- マージ済み PR（30日）
- 24
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
THUDM/slime のほかの issue
-
[Bug] Math reward accepts distinct large integers after float normalization対応中かも @lll-hhh が 2 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
メンテナーはふだん 1 日以内に返信
-
gpqa: when no option letter can be extracted, a single-letter gold label is substring-matched against the whole reply, so a reply that never answers can score 1.0対応中かも @shaurya416 が 39 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
メンテナーはふだん 1 日以内に返信
-
[Bug] shipped dynamic-sampling filters crash on fan-out groups (list[list[Sample]]) from multi-turn agent rollouts対応中かも @QIU-Guanzong が 50 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
メンテナーはふだん 1 日以内に返信
-
[Bug] W&B initialization fails with wandb 0.28.2 because wandb.util.generate_id was removed対応中かも @cyyecao-lappland が 68 日前に担当しました。 オープンbug
難易度 1/5 1〜3時間 初心者へのやさしさ 90/100
メンテナーはふだん 1 日以内に返信
-
[Bug] solution_str = sample.prompt + sample.response対応中かも @mvanhorn が 132 日前に担当しました。 オープンbug
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
メンテナーはふだん 1 日以内に返信
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
pytest-dev/pyfakefs#1367 · コメント 1 件 ·
メンテナーはふだん 2 日以内に返信
-
IFEvalG exclude_word_harder misses the keyword next to punctuation, at the start or end of the text, and in other letter case対応中かも @damienen が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
allenai/open-instruct#2151 ·
メンテナーはふだん 1 日以内に返信
-
feat(plan): support convertorLabels and convertorAffinity in Plan resource対応中かも @AmenB が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
RedHatQE/openshift-python-wrapper#2849 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
メンテナーはふだん 25 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
libnativeapi/nativeapi#21 ·