[Bug] Static disaggregated worker addresses cannot round trip bracketed IPv6
Los mantenedores suelen responder en 1 día
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 76/100
- Tipo de issue
- Error
- Claridad
- Bien especificado
- Estado de actividad
- Activo
- Stack tecnológico
- python
- Área
- backend, networking
Línea de trabajo
Empieza con tensorrt_llm.llmapi.disagg_utils y la reproducción del issue: sigue cómo extract_ctx_gen_cfgs analiza las URL estáticas de los workers y cómo get_ctx_gen_server_addrs las formatea. El issue informa de casos de regresión en el código fuente para workers de contexto y generación, IPv4, DNS, IPv6, identificadores de zona, objetos de configuración y entradas no válidas; usa esos casos para comprobar la corrección. La tarea está terminada cuando las direcciones IPv6 entre corchetes se conservan al convertirlas en ambos sentidos, el comportamiento de IPv4 y DNS se mantiene y se rechazan las entradas ambiguas sin corchetes.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Description
Static disaggregated worker addresses do not round trip bracketed IPv6 on main 9cb84a22bb8813a6dda42961723212f4b2765e8c.
from tensorrt_llm.llmapi.disagg_utils import (
CtxGenServerConfig, extract_ctx_gen_cfgs, get_ctx_gen_server_addrs,
)
extract_ctx_gen_cfgs("ctx", urls=["[::1]:8000"])
# ValueError: too many values to unpack (expected 2)
get_ctx_gen_server_addrs([
CtxGenServerConfig(type="ctx", hostname="::1", port=8000),
])
# (["::1:8000"], [])
The parser splits on every colon. The formatter omits the brackets needed around an IPv6 HTTP authority.
Proposed scope
Split the port from the right, normalize bracketed IPv6 hostnames, and restore brackets when formatting worker addresses. Preserve IPv4 and DNS behavior and reject ambiguous unbracketed input. This is a small address parsing fix. It does not add complete IPv6 support to disaggregated listeners or transports.
I have regression cases for context and generation workers, IPv4, DNS, IPv6, zone IDs, existing configuration objects, and invalid input. The isolated source tests fail on the IPv6 cases before the change and pass with the draft. Full package validation still needs the TensorRT-LLM build environment.
I checked #19544 and #19482. They cover listener binding and advertised host selection, rather than this static address round trip.
I will link a draft patch for scope feedback before requesting code review, per CONTRIBUTING.md.
Before submitting
- Searched related issues and open PRs.
- Included a minimal reproduction and proposed scope.
- Lenguaje dominante
- Python
- Estrellas
- 14.8k
- Forks
- 2.8k
- Merge medio
- 3 d 21 h
- PR fusionados (30 d)
- 466
Preparar el entorno
Inicia el contenedor de desarrollo del proyecto en tu navegador, con tu propia cuenta de GitHub.
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de NVIDIA/TensorRT-LLM
-
[Performance]: Beam search re-materializes Result.output_token_ids from pybind once per beamPosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. AbiertoGeneral perf
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
NVIDIA/TensorRT-LLM#20236 ·
Los mantenedores suelen responder en 1 día
-
[Bug]: Kimi Linear / Kimi K3 fail to load from the release container: No module named 'fla'Posiblemente ocupada @lorenzozanee la tomó hace 4 días. AbiertoCustomized kernels
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
NVIDIA/TensorRT-LLM#19893 ·
Los mantenedores suelen responder en 1 día
-
[Bug]: guided response_format is silently ignored without guided_decoding_backendPosiblemente ocupada @lorenzozanee la tomó hace 19 días. Abiertobug Inference runtime
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
NVIDIA/TensorRT-LLM#19635 ·
Los mantenedores suelen responder en 1 día
-
[Bug] _load_bin_or_path_file hides the real torch.load error behind UnboundLocalErrorPosiblemente ocupada @David-Wu1119 la tomó hace 22 días. AbiertoCustomized kernels
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
NVIDIA/TensorRT-LLM#19564 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
[Bug]: AutoDeploy logger treats verbose and internal_error as infoPosiblemente ocupada @RahulDeoghare la tomó hace 23 días. AbiertoAutoDeploy bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
NVIDIA/TensorRT-LLM#19491 · 3 comentarios ·
Los mantenedores suelen responder en 1 día
Todos los issues de NVIDIA/TensorRT-LLM
Issues similares
-
`LazyFrameRemote` and `ExecuteRemote` sinks do not accept `Path`, like `LazyFrame` sinks do.Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
WingedGuardian/GENesis-AGI#3375 ·
Los mantenedores suelen responder en 1 día
-
curriculum documentation quality
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
githubnext/gh-aw-workshop#4601 ·
Los mantenedores suelen responder en 1 día
-
approved Good First Issue scope: docs
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
hiero-ledger/hiero-sdk-python#2730 · 3 comentarios ·
Los mantenedores suelen responder en 1 día