Segmentation fault in TensorRT 10.3 during Myelin compilation of PointCNN-style model on Jetson Orin NX

オープン
#4,840 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 6 日以内に返信

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
30/100
issue の種類
バグ
明瞭さ
説明が足りない
活発さ
活発

調査の方向性

提供された trtexec コマンドと model.onnx エントリポイントから始め、Myelin のコンパイル中に xconv_1_X_2_KK → MatMul → Transpose → Depthwise Conv の領域に焦点を当てます。報告された precision、optimization-level、diagnostics の設定を比較します。利用できないプロプライエタリモデルにもかかわらず、再現可能な原因、追加の診断経路、または確認済みの回避策を特定できれば完了です。

索引モデルが issue の本文から書いたものです。

説明

Module:Engine Build

Description

I am attempting to build a TensorRT engine for a proprietary PointCNN-derived point cloud classification model on Jetson Orin using TensorRT 10.3.0.
The model executes correctly in TensorFlow and ONNX Runtime, but TensorRT consistently crashes during engine generation. The failure occurs during Myelin compilation, before inference execution.
The crash is reproducible with both NVIDIA trtexec and a custom application using the TensorRT API, suggesting the issue is not application-specific.
The model contains PointCNN XConv blocks involving neighborhood gathering, MatMul, reshapes, transposes, and depthwise convolutions.

TensorRT successfully:

-Parses the ONNX model
-Performs tactic selection
-Profiles kernels
-Starts Myelin compilation

The segmentation fault always occurs during compilation of the same XConv region.

Environment

TensorRT Version: 10.3.0

NVIDIA GPU: Jetson Orin NX 16GB

NVIDIA Driver Version: 540.4.0

CUDA Version: CUDA 12.6 (JetPack 6.2)

Operating System: Ubuntu: 22.04

Python Version (if applicable): 3.10.12

Tensorflow Version (if applicable): TensorFlow 1.15.2

PyTorch Version (if applicable): N/A

Baremetal or Container (if so, version): Baremetal Jetson device

Relevant Files

Model link: Unfortunately I cannot share the model. However, the model is: TensorFlow 1.15 PointCNN-derived point cloud classifier and the problematic section corresponds to the first XConv block. TensorFlow tensor shapes in the failing region are:

xconv_1_nn_fts_input:0 (1, ?, 7, 18)
xconv_1_X_2_KK:0 (?, 1024, 7, 7)
xconv_1_fts_X:0 (?, 1024, 7, 18)

The failure occurs around:

xconv_1_X_2_KK
↓
MatMul (xconv_1_fts_X)
↓
Transpose
↓
Depthwise Conv

Steps To Reproduce

Commands or scripts: Build using:

trtexec
--onnx=model.onnx
--minShapes=features:0:1x1024x1,points:0:1x1024x3
--optShapes=features:0:1x1024x1,points:0:1x1024x3
--maxShapes=features:0:1x1024x1,points:0:1x1024x3
--verbose

I also tried --fp16, --fp32, --noTF32, builderOptimizationLevel=0, 1, 2, 3.

All configurations fail in the same location.

I also tried exporting the ONNX with --target tensorrt

Have you tried the latest release?: TensorRT version: 10.3.0

Can this model run on other frameworks? For example run ONNX model with ONNXRuntime (polygraphy run <model.onnx> --onnxrt): yes, the model runs successfully in TensorFlow and ONNX Runtime

Question
Is there any recommended way to disable the problematic fusion or obtain additional diagnostics around the Myelin compilation stage?

主要言語
C++
スター
13.5k
フォーク
2.4k
平均マージ
6日 21時間
マージ済み PR(30日)
3

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

NVIDIA/TensorRT のほかの issue

NVIDIA/TensorRT の issue をすべて見る

似ている issue

C++ の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。