Engine build failure of TensorRT 11.4 (Windows ARM64 wheel) when building ONNX models on GPU NVIDIA RTX Spark N1X (sm121): missing Myelin resource DLL
Maintainer thường phản hồi trong vòng 6 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 8/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Sôi nổi
- Lĩnh vực
- infrastructure, machine-learning
Hướng nghiên cứu
The failure is a missing Myelin resource DLL (myelin_resource64_sm110_2.dll) raised at resource_wrc.h:45 during codeGenerator.cpp compilation, and the installed wheel ships only nvinfer_builder_resource_sm120_11.dll, with no sm121 builder resource. The repro is a Python tensorrt-cu13 install on Windows ARM64 building any ONNX model. Fixing it means changing NVIDIA's packaging or build artifacts, not this repository's code, so a newcomer cannot close it from here.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Description
On a Windows 11 ARM64 laptop with an NVIDIA RTX Spark N1X GPU (compute capability 12.1), the TensorRT Windows ARM64 wheel installs and imports, but every engine build fails in Myelin:
Internal Error: MyelinCheckException: resource_wrc.h:45: CHECK(hMod_) failed. Failed to load resource DLL: myelin_resource64_sm110_2.dll, error: 2
[TRT] [E] IBuilder::buildSerializedNetwork: Error Code 1: Myelin ([myelin_graph.h:1295: attachExceptionMsgToGraph] MyelinCheckException: resource_wrc.h:45: CHECK(hMod_) failed. Failed to load resource DLL: myelin_resource64_sm110_2.dll, error: 2 In nvinfer1::builder::MyelinGraphTranslatorBase::compileGraph at C:\_src\optimizer\myelin\codeGenerator.cpp:2011)
The installed packages contain only these TensorRT DLLs:
nvinfer_11.dll 230 MB
nvinfer_builder_resource_sm120_11.dll 225 MB
nvinfer_plugin_11.dll 12 MB
So there is a builder resource for sm120 only (none for sm121), and no myelin_resource* DLL at all. The error also asks for an sm110 resource although torch.cuda.get_device_capability() reports (12, 1).
Workaround on the same machine: under WSL2 (Ubuntu 24.04 ARM64), nvidia-smi sees the GPU and the Linux aarch64 wheel tensorrt-cu13 11.4.0.106 builds and runs strongly typed engines for the same model (FP32 8.3 ms, FP16 4.0 ms, INT8 QDQ 4.1 ms per 640x640 image, batch 16). So GPU, driver and model are fine; only the native Windows ARM64 package seems to be missing the sm121 / Myelin resources.
Is the RTX Spark (12.1) on Windows ARM64 meant to be supported by the standard TensorRT wheels? If so, could the sm121 builder resource and the Myelin resources be added?
Environment
TensorRT Version: 11.4.0.106 (tensorrt-cu13, tensorrt_cu13_libs, tensorrt_cu13_bindings, pip from pypi.nvidia.com, win_arm64)
NVIDIA GPU: NVIDIA RTX Spark N1X (6144-core Blackwell RTX GPU), compute capability 12.1
NVIDIA Driver Version: 615.83 (KMD 617.74, as reported by nvidia-smi)
CUDA Version: 13.4
CUDNN Version: none installed separately
Operating System: Windows 11 ARM64 (build 28000)
Python Version (if applicable): 3.12.16 (ARM64)
Tensorflow Version (if applicable): n/a
PyTorch Version (if applicable): 2.14.0+cu134 (CUDA works)
Baremetal or Container (if so, version): Baremetal (native Windows)
Relevant Files
Model link: YOLO11l (Ultralytics 8.4.192) fine-tuned on BDD100K, exported to ONNX (opset 18, static batch 16, 640x640). The failure happens at the Myelin compile step, before anything model-specific, so I expect any similar ONNX model to fail; a public yolo11n.pt export was not tested separately.
Steps To Reproduce
Commands or scripts:
python -m pip install tensorrt-cu13 --extra-index-url https://pypi.nvidia.com
python -c "import tensorrt as trt; print(trt.__version__)" # 11.4.0.106
# build any ONNX model, e.g. via Ultralytics:
yolo export model=yolo11l.pt format=engine quantize=16 device=0
# or the TensorRT Python API: OnnxParser + builder.build_serialized_network(...) -> fails as above
Have you tried the latest release?: 11.4.0.106 is the newest wheel pip resolved on 2026-10-30.
Can this model run on other frameworks?: Yes. ONNX Runtime CPU runs it; TensorRT-RTX 1.6 (onnxruntime-ep-nv-tensorrt-rtx-cu13 0.4.0) builds and runs FP32/FP16 for it on the same Windows machine; Linux TensorRT 11.4 in WSL2 on the same machine builds FP32/FP16/INT8 engines.
- Ngôn ngữ chính
- C++
- Star
- 13.5k
- Fork
- 2.4k
- Merge trung bình
- 6 ngày 21 giờ
- Pull request đã merge (30 ngày)
- 3
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của NVIDIA/TensorRT
-
Module:Polygraphy
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 77/100
Maintainer thường phản hồi trong vòng 6 ngày
-
Polygraphy NumPy Top-K sorts unsigned and minimum signed integers incorrectlyCó thể đã có người làm @0z5a đã nhận 16 ngày trước. Đang mởModule:Polygraphy
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 6 ngày
-
Polygraphy INT32 comparison can overflow and falsely pass at zero toleranceCó thể đã có người làm @0z5a đã nhận 16 ngày trước. Đang mởModule:Polygraphy
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 6 ngày
-
onnx-graphsurgeon: Graph.toposort() hits RecursionError when a graph has a local function and an If/Loop nodeCó thể đã có người làm @gabortar đã nhận 39 ngày trước. Đang mởModule:GraphSurgeon
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 6 ngày
-
Polygraphy parse_meta accepts a shape with a missing bracketCó thể đã có người làm @SashaMIT đã nhận 51 ngày trước. Đang mởModule:Polygraphy
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
Maintainer thường phản hồi trong vòng 6 ngày
Tất cả issue của NVIDIA/TensorRT
Issue tương tự
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 91/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 69/100
maplibre/maplibre-native#5072 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[UBSan] spawn_simulator passes null child_options.args to uv_spawn (execvp nonnull violation)Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 79/100
tenstorrent/tt-umd#4017 ·
Maintainer thường phản hồi trong vòng 3 ngày
-
difficulty:easy func:gui prio:low type:bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
NatronGitHub/Natron#1538 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
hyprwm/hyprsunset#103 · 1 bình luận ·