Myelin "Could not infer output types for operation: dequantize" on SM 8.7 (Orin); identical engine builds on SM 11.0 (Thor) with the same TensorRT 10.16.2.10

オープン
#4,832 コメント 2 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 6 日以内に返信

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
35/100
issue の種類
バグ
明瞭さ
おおむね明確
活発さ
活発
技術スタック
cpp, python

調査の方向性

まず、Orin 上で trtexec --onnx=quantized_int8.onnx --saveEngine=int8.engine --stronglyTyped を使って失敗を再現し、その後、同じアーティファクトを Thor 上で比較します。type.cpp:186 の型推論の箇所と、myelin/codeGenerator.cpp:1795 で参照されているコード生成パスを調査します。strongly typed の INT8 エンジンが Orin 上で正常にビルドされ、デプロイメント契約を弱めないことが完了の条件です。

索引モデルが issue の本文から書いたものです。

説明

Module:Quantization

Summary

Myelin fails to compile a dequantize operation on SM 8.7 (Orin) that compiles successfully on SM 11.0 (Thor), with identical TensorRT 10.16.2.10, identical L4T R39.2, and the byte-identical ONNX file. The two devices differ only in GPU architecture.

Environment

Orin Thor
TensorRT 10.16.2.10-1+cuda13.2 (trtexec v101602) identical
L4T R39 revision 2.0 identical
GPU arch SM 8.7 (Ampere) SM 11.0 (Blackwell)
Result ❌ build fails ✅ builds in 123 s

Producer: NVIDIA ModelOpt 0.44.0 (modelopt.onnx.quantization), INT8 PTQ, entropy calibration, 320 real-image samples. Consumer: trtexec --stronglyTyped.

Reproduction

trtexec --onnx=quantized_int8.onnx --saveEngine=int8.engine --stronglyTyped

Failure

Every tactic is skipped with:

Error Code 9: ... [type.cpp:186: infer_type] Could not infer output types for operation:
291: dequantize: Dequantized input0-(f32[1,16,512,512]) | input0 reshape out_transpose_out
reshape out slice_U28 out-(i8[]), MyelinPW(42188) - Input Dequantization 0 scale
weightsHalf-0.35498H:(f16[]) ... No matching rules found for input operand types
In compileGraph at .../myelin/codeGenerator.cpp:1795

The operand mix is f32 activation + i8 slice + f16 scale. The Ampere codegen path appears to have no rule for that combination; the Blackwell path does.

What this is not

Three different quantization scopes were produced, giving three distinct artifacts. All three fail on Orin with a byte-identical error — same node 291, same MyelinPW(42188), same 0.35498 scale:

Scope Excluded op types ONNX sha256 (16) Orin
plain INT8 none fcf873e63e0a951c ❌
head-aware Sigmoid, ReduceMax, Flatten, TopK, Gather, GatherElements 03d2ab3115dd4de5 ❌
head + stem above + Reshape, Transpose, Slice 540fa615ced07025 ❌

The error not moving while the graph does rules out quantization scope as the cause, and Thor compiling the identical file rules out the model and the calibration. That leaves architecture-specific codegen.

Impact

Strongly-typed INT8 is unavailable on Orin for this detector family. The documented alternative — weakly-typed --int8 --fp16 — permits silent downcast, which our deployment contract forbids.

主要言語
C++
スター
13.5k
フォーク
2.4k
平均マージ
6日 21時間
マージ済み PR(30日)
3

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

NVIDIA/TensorRT のほかの issue

NVIDIA/TensorRT の issue をすべて見る

似ている issue

C++ の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。