FP16 model compilation failure with TensorRT 11.5.0.63 on 4090 RTX
I maintainer di solito rispondono entro 6 giorni
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 45/100
- Tipo di issue
- Bug
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- cpp
- Ambito
- machine-learning, performance
Direzione di ricerca
Start by reproducing with the attached model.onnx.zip using trtexec --onnx=model.onnx --saveEngine=engine.trt on TensorRT 11.5.0.63; compare the result with TensorRT 10.16.1.11 and inspect the attached failure log. The report narrows the failure to an FP16 grouped Conv in a minimal ONNX graph. Done means identifying and fixing the TensorRT compilation failure while preserving the reported FP32 and older-version behavior.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Some models with FP16 precision fail to compile from ONNX format with error like this:
[11/18/2026-21:41:19] [W] [TRT] No low-precision conv kernel available for this strongly-typed Conv/ConvTranspose. Consider keeping Conv/ConvTranspose and Q/DQ ops in FP32 (e.g. via modelopt.onnx.autocast.convert_to_f16 with op_block_list=['Conv','ConvTranspose','QuantizeLinear','DequantizeLinear']). Failing node: conv
[11/18/2026-21:41:19] [E] Error[10]: IBuilder::buildSerializedNetworkToStream: Error Code 10: Internal Error (Could not find any implementation for node conv. In computeCosts at /_src/optimizer/common/tactic/optimizer.cpp:4235)
TensorRT 10.16.1.11 compiles these models successfully. Also, FP32 works normally in TensorRT 11.5.0.63.
I reproduced the error with the simplest ONNX sample consisted of Input->Cast(FP16)->Conv(Grouped)->Cast(FP32)->Output (attachead model.onnx.zip)
Probably problem related to group Conv optimizations.
Full failure log attached: 11.5.0.63.log
I had this issue since TensorRT 11.2.1.2 (I haven't tried versions between 10.16.1.11 and 11.2.1.2), and I thought that it is the same issue as earlier reported #4838, but I can confirm that previous issue was fixed in latest TensorRT.
Environment
TensorRT Version: 11.5.0.63
NVIDIA GPU: 4090 RTX
NVIDIA Driver Version: 620.70.06
CUDA Version: 13.3
Operating System: Ubuntu 22.04
Steps To Reproduce
Commands or scripts: trtexec --onnx=model.onnx --saveEngine=engine.trt
Have you tried the latest release?: Yes
Can this model run on other frameworks? For example run ONNX model with ONNXRuntime (polygraphy run <model.onnx> --onnxrt):Yes
- Lingua principale
- C++
- Stelle
- 13.5k
- Fork
- 2.4k
- Merge medio
- 6g 21h
- PR unite (30g)
- 3
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di NVIDIA/TensorRT
-
Module:Polygraphy
Difficoltà 2/5 1-3 ore Idoneità per principianti 77/100
I maintainer di solito rispondono entro 6 giorni
-
Polygraphy NumPy Top-K sorts unsigned and minimum signed integers incorrectlyForse già presa @0z5a l’ha presa 16 giorni fa. ApertaModule:Polygraphy
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 6 giorni
-
Polygraphy INT32 comparison can overflow and falsely pass at zero toleranceForse già presa @0z5a l’ha presa 16 giorni fa. ApertaModule:Polygraphy
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 6 giorni
-
onnx-graphsurgeon: Graph.toposort() hits RecursionError when a graph has a local function and an If/Loop nodeForse già presa @gabortar l’ha presa 39 giorni fa. ApertaModule:GraphSurgeon
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
I maintainer di solito rispondono entro 6 giorni
-
Polygraphy parse_meta accepts a shape with a missing bracketForse già presa @SashaMIT l’ha presa 51 giorni fa. ApertaModule:Polygraphy
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
I maintainer di solito rispondono entro 6 giorni
Tutte le issue di NVIDIA/TensorRT
Issue simili
-
[UBSan] spawn_simulator passes null child_options.args to uv_spawn (execvp nonnull violation)Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 79/100
tenstorrent/tt-umd#4017 ·
I maintainer di solito rispondono entro 3 giorni
-
difficulty:easy func:gui prio:low type:bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
NatronGitHub/Natron#1538 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
hyprwm/hyprsunset#103 · 1 commento ·
-
Feature request
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
qbittorrent/qBittorrent#25338 ·
I maintainer di solito rispondono entro 2 giorni
-
Needs: Attention Needs: Version Info Platform: Android Platform: tvOS
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
react/react-native#60180 · 3 commenti ·
I maintainer di solito rispondono entro 2 giorni