Propietario

gpustack

6 repositorios indexados · Ver en GitHub

gpustack
A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.

Python · 5719 estrellas
vox-box
A text-to-speech and speech-to-text server compatible with the OpenAI API, supporting Whisper, FunASR, Bark, and CosyVoice backends.

Python · 217 estrellas
gpustack-ui

TypeScript · 94 estrellas
community-inference-backends
Community Inference Backends for GPUStack V2

Python · 15 estrellas
benchmark-runner

Python · 5 estrellas
gpustack-operator
Provides a fantastic way to manage accelerator resources in Kubernetes.

Go · 4 estrellas

Para principiantes Todo

Abierto Todos

Model API: distributable field returns false even when "Allow Distributed Inference Across Workers" is checked Abierto

Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100

gpustack/gpustack#6275 · Abierto el 23/9/2026
GPU instance created via API with an empty description is incorrectly identified as CPU-only Abierto

gpustack/gpustack#6273 · 1 comentario · 1 asignado · Abierto el 23/9/2026
Deleting a volume attached to a stopped instance incorrectly shows success and enters Deleting state Abierto

gpustack/gpustack#6272 · 1 asignado · Abierto el 23/9/2026
/v1/tokenize and /v1/detokenize (vLLM built-ins) return 404 through GPUStack model API Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

gpustack/gpustack#6270 · Abierto el 23/9/2026
API Server starts relatively slowly Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

gpustack/gpustack#6269 · Abierto el 23/9/2026
bug: a fabric-backed pool reports healthy while every engine-to-store save fails Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

gpustack/gpustack-operator#512 · Abierto el 23/9/2026
enhancement: decide whether engine Pods get host-fabric access, and how it is asked for Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100

gpustack/gpustack-operator#511 · Abierto el 23/9/2026
Metrics-based routing (TTFT / queue depth) via an LLM router Abierto

enhancement

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

gpustack/gpustack#6266 · Abierto el 22/9/2026
Gateway-side load-balancing policies on the route gateway Abierto

gpustack/gpustack#6265 · 1 asignado · Abierto el 22/9/2026
worker.gpuVendors silently accepts unsupported/misspelled vendor names — no validation guard Abierto

Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100

gpustack/gpustack#6264 · Abierto el 22/9/2026
6-field cron not triggered with scheduled scaling enabled Abierto

gpustack/gpustack#6263 · 1 asignado · Abierto el 22/9/2026
Cannot edit a model deployed on sliced GPUs: "No sliceable capacity available" blocks saving Abierto

gpustack/gpustack#6262 · 1 comentario · 1 asignado · Abierto el 22/9/2026
Support additional scrape configs in the built-in Prometheus Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 57/100

gpustack/gpustack#6259 · 2 comentarios · Abierto el 21/9/2026
Scheduled scaling enabled: changing replica on the deployment list fails Abierto

gpustack/gpustack#6257 · 1 comentario · 2 asignados · Abierto el 21/9/2026
Compatibility check ignores the VRAM ratio in sliced GPU allocation mode Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 68/100

gpustack/gpustack#6254 · 1 asignado · Abierto el 21/9/2026
Authentication Issue of Inference Backend Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

gpustack/gpustack#6253 · Abierto el 21/9/2026
enhancement: discover topology and schedule ModelDeployments with Kueue TAS Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

gpustack/gpustack-operator#483 · 1 comentario · Abierto el 20/9/2026
Support graceful worker deletion for registered K8s clusters Abierto

gpustack/gpustack#6247 · 1 asignado · Abierto el 20/9/2026
CPU worker remains after worker upgrade when CPU nodes are not selected Abierto

gpustack/gpustack#6246 · 1 asignado · Abierto el 20/9/2026
Auto-tuning exceeds the configured maximum number of test points Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 56/100

gpustack/gpustack#6240 · Abierto el 20/9/2026
Max Throughput benchmark marks multiple results at the same request rate as Best with ShareGPT dataset Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 68/100

gpustack/gpustack#6238 · Abierto el 20/9/2026
k8s cluster & GPU instance status consistency enhancement Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 45/100

gpustack/gpustack#6237 · Abierto el 18/9/2026
Custom benchmark does not reset stage settings when switching load types Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 70/100

gpustack/gpustack#6235 · Abierto el 18/9/2026
Request failed with specail command arguments in docker compose file. Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 48/100

gpustack/gpustack#6233 · 2 comentarios · Abierto el 18/9/2026
Auto-tuning probes below the configured lower bound in Max Throughput and SLO modes Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 52/100

gpustack/gpustack#6232 · Abierto el 18/9/2026
Model instance stuck in UNREACHABLE forever after worker recovers — routing returns 503 while the inference process is actually healthy Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

gpustack/gpustack#6231 · 1 comentario · Abierto el 17/9/2026
SLO benchmark displays saturation probe information in concurrency mode Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 66/100

gpustack/gpustack#6230 · Abierto el 17/9/2026
SLO benchmark list displays peak-stage metrics instead of best-point metrics in concurrency mode Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 64/100

gpustack/gpustack#6229 · Abierto el 17/9/2026
SLO auto-tuning exceeds the configured upper concurrency bound Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 68/100

gpustack/gpustack#6225 · Abierto el 17/9/2026
Max Throughput mode ignores the configured upper rate bound during auto-tuning Abierto

gpustack/gpustack#6223 · 1 asignado · Abierto el 17/9/2026
Benchmark stucks in 0 progress for a long time Abierto

gpustack/gpustack#6222 · 3 comentarios · 1 asignado · Abierto el 17/9/2026
vllm0.29 failed in distributed inference Abierto

gpustack/gpustack#6221 · 1 comentario · 1 asignado · Abierto el 16/9/2026
step-audio-2-mini 模型启动报错 Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

gpustack/gpustack#6220 · Abierto el 16/9/2026
bug: a direct-decode replica reports ready before its engine has loaded Abierto

area/worker kind/bug

Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

gpustack/gpustack-operator#458 · Abierto el 16/9/2026
todo: the cross-vendor KV verification matrix, and what each row does not answer Abierto

area/testing todo

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

gpustack/gpustack-operator#455 · Abierto el 16/9/2026
bug: a MultiConnector aborts the engine on Prometheus metrics registration Abierto

area/worker kind/bug

Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100

gpustack/gpustack-operator#454 · 1 comentario · Abierto el 16/9/2026
[Bug] Intermittent persistent 503 for large multi-round Claude Code requests before request body reaches Worker Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 42/100

gpustack/gpustack#6217 · 9 comentarios · Abierto el 15/9/2026
为什么文档没有中文版的？ || Why is there no Chinese version of the document? Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

gpustack/gpustack#6216 · 1 comentario · Abierto el 15/9/2026
Model Catalog: importing a source YAML requires clicking "Save" twice before the configuration actually takes effect Abierto

gpustack/gpustack#6214 · 1 asignado · Abierto el 14/9/2026
Benchmark Warmup/Cooldown are labeled as percentages but are read as request counts Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 68/100

gpustack/gpustack#6211 · Abierto el 14/9/2026
Validate tool / tool_calls pairing at the gateway Abierto

gpustack/gpustack#6210 · 1 comentario · 1 asignado · Abierto el 14/9/2026
Support a custom image when deploying with the built-in vLLM/SGLang backend Abierto

gpustack/gpustack#6208 · 1 comentario · 1 asignado · Abierto el 14/9/2026
After VLLM_USE_RUST_FRONTEND is enabled in VLLM, the following error message is displayed on the worker node console: gpustack.utils.task - ERROR - An error occurred during aggregation: unknown metric family type: unknown Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 52/100

gpustack/gpustack#6207 · Abierto el 13/9/2026
Manual Scheduling Pending Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

gpustack/gpustack#6206 · Abierto el 13/9/2026
In the benchmark, TTFT & ITL are always 0 Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 45/100

gpustack/gpustack#6205 · 1 comentario · Abierto el 12/9/2026
Avoid showing benchmark coverage warning in certain cases Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 55/100

gpustack/gpustack#6204 · Abierto el 12/9/2026
Use /health instead of /v1/models for vLLM/SGLang readiness checks Abierto

gpustack/gpustack#6203 · 1 asignado · Abierto el 12/9/2026
bug: write-through eviction takes the one path with no offload protection Abierto

area/worker kind/bug kind/external

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

gpustack/gpustack-operator#371 · 1 comentario · Abierto el 11/9/2026
enhancement: explore leader-side CXL and DFS media for a KVCacheBackend Abierto

area/worker kind/enhancement kind/external

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

gpustack/gpustack-operator#351 · 2 comentarios · Abierto el 11/9/2026
Add batch copy/sync of advanced settings between model deployments Abierto

Dificultad 5/5 Más de una semana Aptitud para principiantes 45/100

gpustack/gpustack#6192 · 1 comentario · Abierto el 9/9/2026

Mostrando los 100 más recientes

Esta página solo lista lo indexado más recientemente. El filtro avanzado tiene el inventario completo, acotado por lenguaje, dificultad y duración.

Abrir el filtro avanzado

gpustack

Mostrando los 100 más recientes

Recibe los nuevos issues en tu correo