Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

[QNN] 16a4w_block stride-2 conv + ReLU fails HTP graph prepare on SM8850 (Relu16bParamsPlaceholder)

Đang mở
  • Có gì không ổn?
#23,922 0 bình luận 0 reaction 1 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

@psiddh đang làm issue này rồi.

Từ ngày 16/10/2026.

Đánh giá

Issue này chưa được đánh giá.

Mô tả

bug module: qnn partner: qualcomm
🐛 Describe the bug

A 16a4w_block (LPBQ) conv with stride 2 followed by ReLU fails HTP graph prepare on SM8850, for every block size tried (16/32/64):

[ERROR] [Qnn ExecuTorch]: tcm_migration.cc:2163::ERROR:no properties registered for q::Relu16bParamsPlaceholder
[ERROR] [Qnn ExecuTorch]: graph_prepare.cc:208::ERROR:could not create op: q::Relu16bParamsPlaceholder
AssertionError: Failed to generate Qnn context binary.

Stride 1, stride 2 without the ReLU, and plain per-channel 16a4w with stride 2 + ReLU all lower fine. Hit on DeepLabV3-ResNet50 (torchvision), where it blocks LPBQ for most ResNet-style CNNs.

import torch
from executorch.backends.qualcomm.quantizer.quantizer import QnnQuantizer, QuantDtype
from executorch.backends.qualcomm.serialization.qc_schema import QcomChipset
from executorch.backends.qualcomm.utils.utils import (
    generate_htp_compiler_spec, generate_qnn_executorch_compiler_spec, to_edge_transform_and_lower_to_qnn)
from torchao.quantization.pt2e.quantize_pt2e import convert_pt2e, prepare_pt2e

class M(torch.nn.Module):
    def __init__(self):
        super().__init__()
        self.conv = torch.nn.Conv2d(256, 128, 3, stride=2, padding=1)
    def forward(self, x):
        return torch.relu(self.conv(x))

x = (torch.randn(1, 256, 64, 64),)
gm = torch.export.export(M().eval(), x).module()
conv = next(n.name for n in gm.graph.nodes if n.target == torch.ops.aten.conv2d.default)
q = QnnQuantizer(soc_model=QcomChipset.SM8850)
q.set_default_quant_config(quant_dtype=QuantDtype.use_16a4w_block, is_conv_per_channel=True)
q.set_block_size_map({conv: (1, 16, 1, 1)})
p = prepare_pt2e(gm, q)
p(*x)
specs = generate_qnn_executorch_compiler_spec(
    soc_model=QcomChipset.SM8850, backend_options=generate_htp_compiler_spec(use_fp16=False))
to_edge_transform_and_lower_to_qnn(convert_pt2e(p), x, specs).to_executorch()
Versions

ExecuTorch main e6cfbf87c3, QAIRT 2.47.0.260601, x86_64 Linux host, target SM8850 (V81).

cc @cccclai @winskuo-quic @shewu-quic @haowhsu-quic @DannyYuyang-quic @cbilgin @abhinaykukkadapu @psiddh

Ngôn ngữ chính
Python
Star
5.1k
Fork
1.2k
Merge trung bình
2 ngày 14 phút
Pull request đã merge (30 ngày)
704

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của pytorch/executorch

Tất cả issue của pytorch/executorch

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.