Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

[Feature] Add RPM, QPS, and TPM Limits to AI Gateway

Aperta
#14,081 1 commento 0 reazioni 1 assegnatario Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

@wanghe-fit2cloud ci sta già lavorando.

Dal 14/10/2026.

Valutazione

Questa issue non è ancora stata valutata.

Descrizione

type: ai-gateway
1Panel Version

1.3.0

Please describe your needs or suggestions for improvements

在上游有RPM、QOS、TPM限制的时候希望网关可以做到队列里面,当前只有个并发限制,并不能很好的利用上游能力

Please describe the solution you suggest

比如我上游QOS是4,如果这一秒超过四个请求就加入队列下一秒里在请求到上游,RPM同理

Additional Information

No response

Lingua principale
Go
Stelle
37.1k
Fork
3.4k
Merge medio
11h 49m
PR unite (30g)
94

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di 1Panel-dev/1Panel

Tutte le issue di 1Panel-dev/1Panel

Issue simili

Altre issue su Go

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.