sgl-project/sglang

[Feature] Support `abort_request` in the router

Open

#6 531 ouverte le 22 mai 2025

Voir sur GitHub
 (2 commentaires) (0 réactions) (0 assignés)Python (6 216 forks)auto 404
good first issue

Métriques du dépôt

Stars
 (28 442 stars)
Métriques de merge PR
 (Merge moyen 2j 1h) (1 000 PRs mergées en 30 j)

Description

Checklist

Motivation

Hi,

I'd like to use the new abort_request API: https://github.com/sgl-project/sglang/blob/58f10679e1850fdc86046057c23bac5193156de9/python/sglang/srt/entrypoints/http_server.py#L549

However, I'm using multiple SGLang servers behind a router, and currently the router doesn't seem to support abort_request: https://github.com/sgl-project/sglang/blob/main/sgl-router/src/server.rs

I'm wondering if it makes sense to also support abort_request in the router. Thanks!

Related resources

No response

Guide contributeur

Direction de recherche
Étudiez le code source du routeur existant dans sgl router/src/server.rs pour comprendre comment les requêtes sont acheminées et comment ajouter un nouveau point de terminaison d'annulation qui transmet au serveur backend approprié.
Stack technique
pythonrust
Domaine
backendinfrastructure
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GitRust
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
55