sgl-project/sglang

[Feature] Add examples for running SGLang on Slurm

Open

#3 244 ouverte le 31 janv. 2025

Voir sur GitHub
 (5 commentaires) (0 réactions) (1 assigné)Python (6 216 forks)auto 404
documentationgood first issuehelp wanted

Métriques du dépôt

Stars
 (28 442 stars)
Métriques de merge PR
 (Merge moyen 2j 1h) (1 000 PRs mergées en 30 j)

Description

Checklist

Motivation

This has long been discussed. We want to add examples for how to run SGLang on slurm systems. Here is one example for dpsk model. But we need more definitely.

https://github.com/sgl-project/sglang/issues/3206

Related resources

No response

Guide contributeur

Direction de recherche
Examinez l'exemple Slurm existant lié dans l'issue #3206, puis créez des exemples supplémentaires pour différents modèles ou configurations en suivant le même schéma.
Stack technique
python
Domaine
backenddevops
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GitPython
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60