pytorch/TensorRT

PyTorch/TorchScript/FX compiler for NVIDIA GPUs using TensorRT

Estrellas: 3k
Forks: 410
Issues abiertos para principiantes: 1
Issues indexados: 231
Merge medio: 3 d 18 h
PR fusionados (30 d): 78

Lenguaje dominante: Python
Licencia: BSD-3-Clause
Último push a GitHub: 17/9/2026
Última indexación: 19/9/2026
Guía de contribución: Guía de contribución
Código de conducta: Código de conducta
Etiquetas para principiantes: Sin etiquetas para principiantes indexadas

Para principiantes Todo

Abierto Todos

Host-resident TensorRT shape-tensor inputs incur a device round trip and a per-call stream sync Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

pytorch/TensorRT#4717 · Abierto el 15/9/2026
🐛 [Bug] test_base_fp4_static_shapes still borderline-flaky with cosine_similarity Abierto

bug

pytorch/TensorRT#4697 · 1 comentario · 1 asignado · Abierto el 9/9/2026
🐛 [Bug] test_fp8_mha_fused_kernel fails on H100 (root cause undiagnosed) Abierto

bug

pytorch/TensorRT#4696 · 2 comentarios · 1 asignado · Abierto el 9/9/2026
🐛 [Bug] `lift_mutated_buffers` crashes on any model that returns a mutated buffer Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

pytorch/TensorRT#4694 · 1 comentario · Abierto el 9/9/2026
✨[Feature] a global switch for engine execution profiling, reachable from an AOTInductor package Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 52/100

pytorch/TensorRT#4679 · 2 comentarios · Abierto el 4/9/2026
🐛 [Bug] execute_engine input checks name neither the engine nor the binding that failed Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 70/100

pytorch/TensorRT#4678 · 3 comentarios · Abierto el 4/9/2026
🐛 [Bug] the execute_engine meta kernel reports rank 0 for a sym_size output the engine returns as rank 1 Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

pytorch/TensorRT#4677 · 2 comentarios · Abierto el 4/9/2026
🐛 [Bug] inline_torch_modules matches submodule placeholders to parent nodes by name, mis-wiring the graph Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 76/100

pytorch/TensorRT#4612 · Abierto el 27/8/2026
🐛 [Bug] extract_var_range_info calls int() on unbounded range bounds (no lower guard, upper guards only int_oo) Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 64/100

pytorch/TensorRT#4611 · Abierto el 27/8/2026
🐛 [Bug] optimization-profile opt extent is computed as min + max/2, exceeds max value in certain cases Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 55/100

pytorch/TensorRT#4610 · Abierto el 27/8/2026
🐛 [Bug] rank-8+ tensors cross the partition boundary and fail in add_input, not at their producer Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 58/100

pytorch/TensorRT#4608 · Abierto el 27/8/2026
🐛 [Bug] slice does not clamp a finite stop on a dynamic axis, baking the literal stop into the engine Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

pytorch/TensorRT#4607 · Abierto el 27/8/2026
🐛 [Bug] mul emits ElementWiseOperation.PROD for bool × bool, which TensorRT rejects (AND is supported) Abierto

bug

pytorch/TensorRT#4605 · 1 asignado · Abierto el 27/8/2026
🐛 [Bug] sort_validator reads an optional argument positionally and raises IndexError Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 68/100

pytorch/TensorRT#4603 · Abierto el 27/8/2026
[CI] torch-compile-models-standard: test_bert_base_uncased failed Abierto

bug

pytorch/TensorRT#4496 · 1 asignado · Abierto el 16/8/2026
🐛 [Bug] Error with Cask conv when using Hardware Compatible flag Abierto

bug

pytorch/TensorRT#4481 · 2 comentarios · 1 asignado · Abierto el 12/8/2026
Dynamo constant folding can leak mutable state through graph outputs Abierto

pytorch/TensorRT#4466 · 2 comentarios · 1 asignado · Abierto el 7/8/2026
Bug Report: Hard-coded CUDA 12 check blocks CUDA 13 support in Torch-TensorRT Abierto

bug

pytorch/TensorRT#4438 · 2 comentarios · 1 asignado · Abierto el 28/7/2026
Native DistCollective fails at build time when fused into a Myelin ForeignNode (large multi-device graph) Abierto

pytorch/TensorRT#4381 · 1 comentario · 1 asignado · Abierto el 4/7/2026
Backport workflow-hardening fix (artipacked) to 5 release branches Abierto

Dificultad 3/5 1-2 días Aptitud para principiantes 72/100

pytorch/TensorRT#4366 · Abierto el 26/6/2026
Support TensorRT weight streaming in the ExecuTorch delegate so large models can run Abierto

Dificultad 4/5 3-5 días Aptitud para principiantes 58/100

pytorch/TensorRT#4334 · Abierto el 10/6/2026
🐛 [Bug] Python only pipeline failed on weight streaming test Abierto

bug

Dificultad 3/5 1-2 días Aptitud para principiantes 55/100

pytorch/TensorRT#4333 · 2 comentarios · Abierto el 10/6/2026
🐛 [Bug] Fake Tensor Updater Doesn't Exist on Windows Platform Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

pytorch/TensorRT#4311 · Abierto el 29/5/2026
✨[Feature] Support in-place custom plugins (and multiple outputs) Abierto

feature request

pytorch/TensorRT#4240 · 7 comentarios · 1 asignado · Abierto el 7/5/2026
🐛 [Bug] Torch-TensorRT Slower than Onnx TensorRT in Alpamayo-10B Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 42/100

pytorch/TensorRT#4239 · 1 comentario · Abierto el 6/5/2026
🐛 [Bug] Engine caching and loading from cache Abierto

bug

pytorch/TensorRT#4226 · 5 comentarios · 1 asignado · Abierto el 30/4/2026
✨[Feature] Multi-Framework Runner Support in tools Abierto

feature request

pytorch/TensorRT#4220 · 3 comentarios · 1 asignado · Abierto el 28/4/2026
convert_exported_program_to_serialized_trt_engine fails with AssertionError on TorchExportableModuleWithStaticCache exports Abierto

pytorch/TensorRT#4162 · 3 comentarios · 2 asignados · Abierto el 2/4/2026
[Bug] 17 dynamo test failures across all GPUs on CUDA 13.x — SDP use_fp32_acc, BERT accuracy, AutomaticPlugin, refit Abierto

bug

Dificultad 5/5 Más de una semana Aptitud para principiantes 30/100

pytorch/TensorRT#4154 · 1 comentario · Abierto el 30/3/2026
[Bug] MutableTorchTRTModule refit flag stuck at NEEDS_REFIT, never transitions to LIVE on B100/H100 with CUDA 13.x Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 25/100

pytorch/TensorRT#4153 · Abierto el 30/3/2026
[Bug] C++ API and core tests fail with "assert 3 == 0" across all GPUs and CUDA 13.x versions Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

pytorch/TensorRT#4152 · 1 comentario · Abierto el 30/3/2026
[Bug] TestTorchTensorRTModule::test_get_layer_info AssertionError on H100 with CUDA 13.x Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

pytorch/TensorRT#4151 · Abierto el 30/3/2026
🐛 [Bug] add_attention fails with dynamic head dimension when exporting GQA models via torch.export Abierto

bug

Dificultad 4/5 3-5 días Aptitud para principiantes 48/100

pytorch/TensorRT#4145 · 1 comentario · Abierto el 24/3/2026
[Bug] All-zero logits from convert_exported_program_to_serialized_trt_engine with use_explicit_typing=False Abierto

Story: Runtime & Memory & Serialization

Dificultad 4/5 3-5 días Aptitud para principiantes 42/100

pytorch/TensorRT#4141 · 1 comentario · Abierto el 19/3/2026
🐛 [Bug] Encountered bug when using Torch-TensorRT Abierto

bug story: Dynamo Frontend & Partitioning

Dificultad 4/5 3-5 días Aptitud para principiantes 45/100

pytorch/TensorRT#4137 · 1 comentario · Abierto el 18/3/2026
❓ [Question] Excessive GPU memory usage during constant folding pass causes OOM (Torch-TensorRT + Qwen-Image) Abierto

question story: Dynamic Shapes & Symbolic Tracing

pytorch/TensorRT#4128 · 2 comentarios · 1 asignado · Abierto el 15/3/2026
🐛 [Bug] RuntimeError: Failed to extract symbolic shape expressions from source FX graph partition Abierto

bug story: Dynamic Shapes & Symbolic Tracing

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

pytorch/TensorRT#4105 · 2 comentarios · Abierto el 2/3/2026
🐛 [Bug] opt-shape cannot be set same as min-shape when torch_tensorrt.compile Abierto

Blocked [PyTorch] bug story: Dynamic Shapes & Symbolic Tracing

Dificultad 3/5 1-2 días Aptitud para principiantes 45/100

pytorch/TensorRT#4103 · 1 comentario · Abierto el 28/2/2026
✨[Feature] Debugging Partitioner Abierto

feature request story: Dynamo Frontend & Partitioning

pytorch/TensorRT#4100 · 1 comentario · 1 asignado · Abierto el 24/2/2026
🐛 [Bug] Incorrect output when using grid-sample operator with use_explicit_typing since tensorrt 10.14.1.48 Abierto

bug story: Operator Coverage & Converters

Dificultad 4/5 3-5 días Aptitud para principiantes 35/100

pytorch/TensorRT#4074 · 18 comentarios · 1 reacción · Abierto el 7/2/2026
qwen3 embedding reranker support? Abierto

question story: LLM & Generative AI

Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100

pytorch/TensorRT#4073 · 1 comentario · Abierto el 6/2/2026
🐛 [Bug] run llm exmples are broken in thor platform Abierto

bug story: LLM & Generative AI

pytorch/TensorRT#4069 · 1 comentario · 1 asignado · Abierto el 4/2/2026
🐛 [Bug] flux Examples are broken in thor platform Abierto

bug story: LLM & Generative AI

pytorch/TensorRT#4068 · 3 comentarios · 1 asignado · Abierto el 4/2/2026
✨[Feature] Route FP16 Layer Norm properly Abierto

feature request story: Quantization & Precision

pytorch/TensorRT#4061 · 1 asignado · Abierto el 30/1/2026
↔ [Converter] Add support for torch.ops.aten._local_scalar_dense.default Abierto

component: converters feature request story: Operator Coverage & Converters

Dificultad 4/5 3-5 días Aptitud para principiantes 30/100

pytorch/TensorRT#4051 · Abierto el 27/1/2026
📖 [Story] Issue tracker for supporting Alpamayo Abierto

Story story: LLM & Generative AI

Dificultad 5/5 Más de una semana Aptitud para principiantes 10/100

pytorch/TensorRT#4049 · Abierto el 27/1/2026
🐛 [Bug] L1 resource partitioner test error on DLFW Abierto

bug story: CI/CD & Testing Infrastructure

pytorch/TensorRT#4040 · 1 asignado · Abierto el 26/1/2026
✨[Feature] Improve the backtraces for operators that will fallback Abierto

feature request story: Dynamo Frontend & Partitioning

pytorch/TensorRT#4022 · 1 asignado · Abierto el 20/1/2026
[aten::embedding] Do we still need this check? Abierto

story: Operator Coverage & Converters

pytorch/TensorRT#4008 · 1 comentario · 1 asignado · Abierto el 13/1/2026
🐛 [Bug] resource split testcase failed in windows Abierto

bug Story: Build & Install & Packaging

pytorch/TensorRT#3999 · 2 comentarios · 1 asignado · Abierto el 7/1/2026

Mostrando los 100 más recientes

Esta página solo lista lo indexado más recientemente. El filtro avanzado tiene el inventario completo, acotado por lenguaje, dificultad y duración.

Abrir el filtro avanzado

pytorch/TensorRT

Mostrando los 100 más recientes

Recibe los nuevos issues en tu correo