Segmentation fault in TensorRT 10.3 during Myelin compilation of PointCNN-style model on Jetson Orin NX
メンテナーはふだん 6 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 30/100
- issue の種類
- バグ
- 明瞭さ
- 説明が足りない
- 活発さ
- 活発
調査の方向性
提供された trtexec コマンドと model.onnx エントリポイントから始め、Myelin のコンパイル中に xconv_1_X_2_KK → MatMul → Transpose → Depthwise Conv の領域に焦点を当てます。報告された precision、optimization-level、diagnostics の設定を比較します。利用できないプロプライエタリモデルにもかかわらず、再現可能な原因、追加の診断経路、または確認済みの回避策を特定できれば完了です。
索引モデルが issue の本文から書いたものです。
説明
Description
I am attempting to build a TensorRT engine for a proprietary PointCNN-derived point cloud classification model on Jetson Orin using TensorRT 10.3.0.
The model executes correctly in TensorFlow and ONNX Runtime, but TensorRT consistently crashes during engine generation. The failure occurs during Myelin compilation, before inference execution.
The crash is reproducible with both NVIDIA trtexec and a custom application using the TensorRT API, suggesting the issue is not application-specific.
The model contains PointCNN XConv blocks involving neighborhood gathering, MatMul, reshapes, transposes, and depthwise convolutions.
TensorRT successfully:
-Parses the ONNX model
-Performs tactic selection
-Profiles kernels
-Starts Myelin compilation
The segmentation fault always occurs during compilation of the same XConv region.
Environment
TensorRT Version: 10.3.0
NVIDIA GPU: Jetson Orin NX 16GB
NVIDIA Driver Version: 540.4.0
CUDA Version: CUDA 12.6 (JetPack 6.2)
Operating System: Ubuntu: 22.04
Python Version (if applicable): 3.10.12
Tensorflow Version (if applicable): TensorFlow 1.15.2
PyTorch Version (if applicable): N/A
Baremetal or Container (if so, version): Baremetal Jetson device
Relevant Files
Model link: Unfortunately I cannot share the model. However, the model is: TensorFlow 1.15 PointCNN-derived point cloud classifier and the problematic section corresponds to the first XConv block. TensorFlow tensor shapes in the failing region are:
xconv_1_nn_fts_input:0 (1, ?, 7, 18)
xconv_1_X_2_KK:0 (?, 1024, 7, 7)
xconv_1_fts_X:0 (?, 1024, 7, 18)
The failure occurs around:
xconv_1_X_2_KK
↓
MatMul (xconv_1_fts_X)
↓
Transpose
↓
Depthwise Conv
Steps To Reproduce
Commands or scripts: Build using:
trtexec
--onnx=model.onnx
--minShapes=features:0:1x1024x1,points:0:1x1024x3
--optShapes=features:0:1x1024x1,points:0:1x1024x3
--maxShapes=features:0:1x1024x1,points:0:1x1024x3
--verbose
I also tried --fp16, --fp32, --noTF32, builderOptimizationLevel=0, 1, 2, 3.
All configurations fail in the same location.
I also tried exporting the ONNX with --target tensorrt
Have you tried the latest release?: TensorRT version: 10.3.0
Can this model run on other frameworks? For example run ONNX model with ONNXRuntime (polygraphy run <model.onnx> --onnxrt): yes, the model runs successfully in TensorFlow and ONNX Runtime
Question
Is there any recommended way to disable the problematic fusion or obtain additional diagnostics around the Myelin compilation stage?
- 主要言語
- C++
- スター
- 13.5k
- フォーク
- 2.4k
- 平均マージ
- 6日 21時間
- マージ済み PR(30日)
- 3
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
NVIDIA/TensorRT のほかの issue
-
Module:Polygraphy
難易度 2/5 1〜3時間 初心者へのやさしさ 77/100
メンテナーはふだん 6 日以内に返信
-
Polygraphy NumPy Top-K sorts unsigned and minimum signed integers incorrectly対応中かも @0z5a が 16 日前に担当しました。 オープンModule:Polygraphy
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 6 日以内に返信
-
Polygraphy INT32 comparison can overflow and falsely pass at zero tolerance対応中かも @0z5a が 16 日前に担当しました。 オープンModule:Polygraphy
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 6 日以内に返信
-
onnx-graphsurgeon: Graph.toposort() hits RecursionError when a graph has a local function and an If/Loop node対応中かも @gabortar が 39 日前に担当しました。 オープンModule:GraphSurgeon
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
メンテナーはふだん 6 日以内に返信
-
Polygraphy parse_meta accepts a shape with a missing bracket対応中かも @SashaMIT が 51 日前に担当しました。 オープンModule:Polygraphy
難易度 2/5 1〜3時間 初心者へのやさしさ 86/100
メンテナーはふだん 6 日以内に返信
NVIDIA/TensorRT の issue をすべて見る
似ている issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 91/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 69/100
maplibre/maplibre-native#5072 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 79/100
tenstorrent/tt-umd#4017 ·
メンテナーはふだん 3 日以内に返信
-
difficulty:easy func:gui prio:low type:bug
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
NatronGitHub/Natron#1538 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
hyprwm/hyprsunset#103 · コメント 1 件 ·