NVIDIA/TensorRT-Edge-LLM

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

• OpenAI-compatible server cannot build MTP spec-base engine for Qwen3.8-27B: `--speculative-config {"method":"mtp"}` fails in the Python builder (Myelin tactic assertion)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

  NVIDIA/TensorRT-Edge-LLM#223 · Mở ngày 27/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• llm_build fails with Myelin codegen error for maxInputLen >= 229376 (and 131072 at default batch size) on Qwen3.8-27B / SM110

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#222 · Mở ngày 26/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• feat: Add image-text datasets

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#221 · Mở ngày 25/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Decoding cannot be constrained: no per-step hook in the sampling path, and `logit_bias` cannot substitute for one

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 38/100

  NVIDIA/TensorRT-Edge-LLM#218 · Mở ngày 17/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Direct export/build fails for Qwen3 VL FP8 fine-grained 2D block-FP8 checkpoints

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#217 · 2 bình luận · Mở ngày 17/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• tensorrt-edgellm-build --dense nvfp4-qdq SIGSEGVs in a libnvinfer compiler worker thread on Jetson Thor (CC 11.0) for Cosmos-Reason2-2B; --dense fp16 builds fine from the same NVFP4 checkpoint

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#216 · 4 bình luận · Mở ngày 17/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• llm_inference ignores temperature/top_p/top_k from the input JSON its own help tells you to set them in

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100

  NVIDIA/TensorRT-Edge-LLM#211 · 2 bình luận · Mở ngày 12/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Int4GroupwiseGemmPluginV2 fails silently when ENABLE_CUTE_DSL omits int4_fp16_gemm: "Failed to enqueue status -1" with no diagnostic

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#210 · 1 bình luận · Mở ngày 11/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• ONNX-less direct builder cannot resolve decoder tensors for multimodal cosmos3_edge, and renaming them yields a numerically wrong engine

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#208 · Mở ngày 11/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• SM103 (B300 / Blackwell Ultra) is missing from five SM allowlists across the build and the attention path

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 58/100

  NVIDIA/TensorRT-Edge-LLM#206 · Mở ngày 11/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• XQA NVRTC JIT passes no CUDA include path: cuda_fp16.h cannot find vector_types.h on x86 CUDA 12.x

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100

  NVIDIA/TensorRT-Edge-LLM#204 · Mở ngày 11/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• x86 CuteDSL cubins missing in the repo

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#203 · 1 bình luận · Mở ngày 10/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• feat: Add base64 image support to llm_inference

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 67/100

  NVIDIA/TensorRT-Edge-LLM#202 · Mở ngày 10/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Experimental OpenAI-compatible server fails to start with: ModuleNotFoundError: No module named 'tensorrt'

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#201 · 1 bình luận · Mở ngày 9/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Qwen3-TTS CodePredictor (MTP) crashes with "No available kernel for the GQA" on Jetson AGX Orin

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#198 · Mở ngày 4/9/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Version mismatch while running engine files

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#194 · 5 bình luận · Mở ngày 25/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Qwen3.8-27B NVFP4 base engine build fails: Myelin removeEmptyProducersFromSubgraph not implemented for PLUGIN_V3 (Jetson Thor, TRT 10.13.3.9 and 10.14.1.48)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

  NVIDIA/TensorRT-Edge-LLM#192 · 4 bình luận · Mở ngày 24/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• feat: Add base64 image support to the OpenAI-compatible server

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  External PR Request

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#191 · 1 bình luận · Mở ngày 24/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• feat: add InternVLA-N1-DualVLN vision-language navigation support

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  New Model

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  NVIDIA/TensorRT-Edge-LLM#190 · Mở ngày 24/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• feat: quantized runtime input sidecars for Gemma 4 E-models

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  External PR Request

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#188 · 1 bình luận · Mở ngày 22/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Jetson AGX Orin][v0.10.0] Native build may generate XQA kernels for SM80/86/89 instead of SM87

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100

  NVIDIA/TensorRT-Edge-LLM#187 · 1 bình luận · Mở ngày 21/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Support multimodal calibration when quantizing only the LLM backbone

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 54/100

  NVIDIA/TensorRT-Edge-LLM#186 · 2 reaction · Mở ngày 20/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• The discrepancy between the cosine similarity of the intermediate vectors in the VIT engine of Qwen3-8B-VL and the PyTorch-based visual part leads to a decrease in accuracy.

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#185 · Mở ngày 19/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• fix: Jetson Orin + JetPack 6.2 (CUDA 12.6, listed as Compatible platform) fails to build with ENABLE_CUTE_DSL=ALL — missing cudaLibrary_t compat shim in cuteDslF16MoeRunner.h

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

  NVIDIA/TensorRT-Edge-LLM#183 · 4 bình luận · 1 reaction · Mở ngày 17/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• handle_request() occasionally hangs forever (not a GPU fault) -- confirmed live with py-spy + gdb, no Xid errors

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100

  NVIDIA/TensorRT-Edge-LLM#181 · 1 bình luận · Mở ngày 16/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Idle scheduler loop retains last request's SamplingParams and re-validates it continuously (~30Hz), driving CPU + memory growth with zero active requests

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#180 · 1 bình luận · Mở ngày 16/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][Jetson AGX Orin] TensorRT slot.cpp decode assertion on every request after rebuilding at maxBatchSize=1 (fc_h_fusion workaround from #151)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100

  NVIDIA/TensorRT-Edge-LLM#179 · Mở ngày 15/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug] v0.10.0: prebuilt sm_87 (Jetson Orin) CuteDSL artifact missing fmha_v2_d* kernel modules, breaks all LLM engine builds

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 65/100

  NVIDIA/TensorRT-Edge-LLM#178 · 3 bình luận · Mở ngày 15/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [BUG] Qwen3-TTS CP-FP8 calibration failed, it mixes text and codec embedding domains

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 38/100

  NVIDIA/TensorRT-Edge-LLM#175 · 1 bình luận · Mở ngày 13/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• CuTe DSL SSD head_dim=80 for Nemotron Mamba prefill on SM80+ (Blackwell D64 slab)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#174 · 4 bình luận · Mở ngày 13/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [BUG] ONNX Export fails for Qwen3.5 MTP draft model with 4-bit quantized checkpoint due to unpacked mtp.fc.weight shape mismatch

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#168 · 2 bình luận · Mở ngày 10/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Exporting Alpamayo-R1-10B fails with AssertionError

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#166 · 1 bình luận · Mở ngày 6/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• position_embeddings need check valid

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

  NVIDIA/TensorRT-Edge-LLM#165 · 2 bình luận · Mở ngày 6/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Bug: Garbage / repetitive output on Jetson AGX Thor (SM110) across all quantization formats using CuTe DSL FMHA

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 32/100

  NVIDIA/TensorRT-Edge-LLM#164 · 2 bình luận · Mở ngày 5/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Exporting Qwen2.5-VL AWQ checkpoints fails with KeyError: 'num_heads'

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100

  NVIDIA/TensorRT-Edge-LLM#163 · 1 bình luận · Mở ngày 5/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug] gen_cubins.py: XQA cubin generation writes to the module-level default path instead of --output_dir when workers do not inherit __main__ state

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 70/100

  NVIDIA/TensorRT-Edge-LLM#161 · 3 bình luận · Mở ngày 4/8/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Qwen3.5-35B-A3B GPTQ INT4 ONNX export ERROR using tensorrt edge llm 0.9.0

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#158 · 4 bình luận · Mở ngày 31/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• CUDA_ERROR_ILLEGAL_ADDRESS in XQA on Jetson Orin Nx for Gemma4

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#153 · 1 bình luận · Mở ngày 29/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Regression][Jetson AGX Thor] Layer-0 V tensor corruption in v0.9.1; v0.4.0 works correctly on the same JetPack 7.1 system

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#151 · 6 bình luận · Mở ngày 28/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• LLM Quantization Cannot Load `text_dataset` (Default and Custom Values Fail)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 65/100

  NVIDIA/TensorRT-Edge-LLM#150 · 2 bình luận · Mở ngày 27/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][Export]: checkpoint loader can replace declared FP16/BF16 parameters with FP32 tensors

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100

  NVIDIA/TensorRT-Edge-LLM#144 · 1 bình luận · Mở ngày 25/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][Runtime]: context FMHA loads unrelated mask-type cubins and can fail with CUDA_ERROR_INVALID_IMAGE

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

  NVIDIA/TensorRT-Edge-LLM#143 · Mở ngày 25/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• visual_quantization: invalid choice: 'mxfp8'

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#139 · 1 bình luận · Mở ngày 25/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Support for Quantized Alpamayo Export

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

  NVIDIA/TensorRT-Edge-LLM#134 · 5 bình luận · Mở ngày 21/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• llm_bench profiling

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  NVIDIA/TensorRT-Edge-LLM#133 · 2 bình luận · Mở ngày 20/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Alpamayo Support

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  New Model Roadmap

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#130 · 3 bình luận · Mở ngày 8/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [v0.9.0] Compile error: incorrect kernel module type names in cuteDslNvfp4MoeSm110Runner

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100

  NVIDIA/TensorRT-Edge-LLM#125 · 1 bình luận · Mở ngày 6/7/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug] Native Jetson Orin (sm_87) build: explicit -DCMAKE_CUDA_ARCHITECTURES ignored + CuTe DSL --wrap/cudart shim not propagated to static-lib consumers

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

  NVIDIA/TensorRT-Edge-LLM#117 · 2 bình luận · 1 reaction · Mở ngày 28/6/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• stbir_resize in resizeImage maybe calc wrong result

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100

  NVIDIA/TensorRT-Edge-LLM#116 · 4 bình luận · Mở ngày 26/6/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Processing of frames that are already on device, in memory

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  New Feature Request

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  NVIDIA/TensorRT-Edge-LLM#114 · 3 bình luận · Mở ngày 21/6/2026

  Maintainer thường phản hồi trong vòng 1 ngày