[Doc]: Online benchmark server limit is smaller than the sample workload
I maintainer di solito rispondono entro 1 giorno
Valutazione
- Difficoltà
- 1/5
- Tempo stimato
- Meno di un'ora
- Idoneità per principianti
- 84/100
- Tipo di issue
- Documentazione
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- python
- Ambito
- documentation
Direzione di ricerca
Leggi docs/source/commands/trtllm-serve/run-benchmark-with-trtllm-serve.md e controlla --max_seq_len del server rispetto al carico di lavoro documentato isl=1024 e osl=1024. Il rapporto suggerisce di aumentare il valore dell’esempio a 4096; il lavoro è completato quando la capacità del server indicata nella guida supporta entrambe le lunghezze e l’esempio può produrre l’output illustrato.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
📚 The doc issue
The online benchmarking guide starts trtllm-serve with --max_seq_len 1024, then configures its client with isl=1024 and osl=1024.
The workload needs 2048 tokens per sequence. In executor/base_worker.py, the available generation budget is max_seq_len - prompt_length; a 1024-token prompt therefore leaves no generation room with the documented server setting. This prevents the example from producing its illustrated 1024-token output even with --ignore-eos.
Suggest a potential alternative/fix
Increase the example's --max_seq_len to 4096 so it covers both the input and output lengths, with room for tokenization overhead.
Before submitting a new issue...
- I searched the relevant issues, documentation, and examples. #17249 discusses early EOS; this report concerns the server's total sequence capacity.
- Lingua principale
- Python
- Stelle
- 14.9k
- Fork
- 2.8k
- Merge medio
- 3g 4h
- PR unite (30g)
- 477
Preparare l'ambiente
Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di NVIDIA/TensorRT-LLM
-
LLM API
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
NVIDIA/TensorRT-LLM#20647 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: trtllm-gen FMHA CudaArchDecl.h numbers Sm107a as 4, but the prebuilt libTrtLlmGen archives use 4 for 105a and 5 for 107aForse già presa @lucifer1004 l’ha presa 9 giorni fa. ApertaCustomized kernels
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
NVIDIA/TensorRT-LLM#20507 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Performance]: Beam search re-materializes Result.output_token_ids from pybind once per beamForse già presa Una pull request collegata a questa issue è aperta o già unita. ApertaGeneral perf
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
NVIDIA/TensorRT-LLM#20236 ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug] Static disaggregated worker addresses cannot round trip bracketed IPv6Forse già presa @bojiang-li l’ha presa 15 giorni fa. ApertaDisaggregated serving
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
NVIDIA/TensorRT-LLM#20126 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: Kimi Linear / Kimi K3 fail to load from the release container: No module named 'fla'Forse di nuovo libera Una pull request per questa issue è stata chiusa senza essere unita. ApertaCustomized kernels
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
NVIDIA/TensorRT-LLM#19893 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di NVIDIA/TensorRT-LLM
Issue simili
-
[oblt-aw][autodoc] Update docs for security org scaffolding and Docs AI menu permission changesForse già presa @github-actions l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
I maintainer di solito rispondono entro 1 giorno
-
external integration integration-submission
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
langchain-ai/docs#7077 ·
I maintainer di solito rispondono entro 1 giorno
-
author-page correction
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
acl-org/acl-anthology#10623 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Use context to recognize personal initials and lowercase namesForse già presa @lipikaramaswamy l’ha presa oggi. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
NVIDIA-NeMo/Anonymizer#340 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 82/100
btclib-org/btclib-node#2083 ·
I maintainer di solito rispondono entro 1 giorno