Add SGLang as a local inference backend
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 48/100
- issue の種類
- 機能追加
- 明瞭さ
- おおむね明確
- 活発さ
- 静か
- 技術スタック
- python
調査の方向性
まず、既存の vLLM のローカル推論バックエンドと、それが組み込まれている評価ワークフローを特定します。バックエンドがどのように選択され、そのインターフェースがどのように使われているかを追跡し、その後 SGLang の統合要件と比較します。評価ワークフローを変更せずに、SGLang を代替のローカル GPU バックエンドとして選択できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
We currently support vLLM as the only local GPU inference backend. We should add SGLang as an alternative.Having a second backend gives users flexibility without changing the evaluation workflow and SGLang is also gaining a lot of popularity - which might be handful for future users. What do you think?
- 主要言語
- Python
- スター
- 19
- フォーク
- 6
- 平均マージ
- 3日 11時間
- マージ済み PR（30日）
- 3
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
OpenEuroLLM/JudgeArena のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
OpenEuroLLM/JudgeArena#128 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
API Implementationオープン
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
OpenEuroLLM/JudgeArena#116 ·
メンテナーはふだん 1 日以内に返信
-
custom tasksオープン
難易度 3/5 1〜2日 初心者へのやさしさ 45/100
OpenEuroLLM/JudgeArena#73 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
Support WildBench再び着手できるかも @kargibora が 115 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
OpenEuroLLM/JudgeArena#68 · コメント 1 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 5/5 1週間以上 初心者へのやさしさ 28/100
OpenEuroLLM/JudgeArena#67 · コメント 2 件 · リアクション 1 件 ·
メンテナーはふだん 1 日以内に返信
OpenEuroLLM/JudgeArena の issue をすべて見る
似ている issue
-
Project submission:オープン
難易度 1/5 1時間未満 初心者へのやさしさ 72/100
slavakurilyak/awesome-ai-agents#845 ·
メンテナーはふだん 1 日以内に返信
-
tests: pin that the atomic writers in utils/paths.py stage the temporary file in the target's directory対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープンdifficulty:2 enhancement good first issue
難易度 1/5 1〜3時間 初心者へのやさしさ 92/100
MakazhanAlpamys/Soup#2178 ·
メンテナーはふだん 1 日以内に返信
-
[BUG] dcg.waggr permutation p-values are folded twice, so near-zero scores get the smallest p-valuesオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
scverse/rapids-singlecell#854 ·
メンテナーはふだん 1 日以内に返信
-
Slang input: int8_t4_packed and uint8_t4_packed are copied into CrossGL対応中かも @ninglinLiu が今日担当しました。 オープンarea:frontend backend:slang bug direction:input
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信
-
random_elements(unique=True) on an OrderedDict: ZeroDivisionError once only zero weights remain, AssertionError with use_weighting=False対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
メンテナーはふだん 13 日以内に返信