[Bug] [TIRx] VectorizeLoop loses a let binding when scalarizing a conditional

オープン
  • 何か問題がありますか？
#20,880 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 1 日以内に返信

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
1〜2日
初心者へのやさしさ
25/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
python
領域
compilers

調査の方向性

The failure is an assertion in src/tirx/transform/make_packed_api.cc at line 279, reached after tirx.transform.VectorizeLoop() runs. Start by running the standalone script with T.serial(4) and with T.vectorized(4), then apply only VectorizeLoop to see the lost let binding. Done means the vectorized loop compiles and the three input checks pass, with a regression test for the scalarized conditional.

索引モデルが issue の本文から書いたものです。

説明

needs-triage type: bug
Expected behavior

The vectorized loop below should compile and produce the same result as its serial equivalent. The first two elements should become A[i] + 3, and the last two should become A[i] + 4.

The input passes both tvm.tirx.analysis.verify_ssa and verify_well_formed.

Actual behavior

Compiling the vectorized version with the default LLVM pipeline fails in MakePackedAPI:

src/tirx/transform/make_packed_api.cc:279
TVM_FFI_ICHECK_EQ(undefined.size(), 0)

tvm.error.InternalError: Check failed: undefined.size() == 0 (1 vs. 0) :
In PrimFunc main variables (v,) are used, but are not passed in as API arguments

Applying tirx.transform.VectorizeLoop() in isolation shows the lost binding. The vector value remains bound outside the scalar fallback loop, but the conditional stores refer to a different, unbound scalar variable:

v: T.let[T.float32x4] = A[T.Ramp(0, 1, 4)] + T.Broadcast(T.float32(1.0), 4)
for i_s in range(4):
    v_1 = T.float32()  # Declaration only; no lane value is assigned.
    if i_s < 2:
        A[i_s] = v_1 + T.float32(2.0)
    else:
        A[i_s] = v_1 + T.float32(3.0)

The standalone script below failed with the same undefined-variable assertion in three fresh processes. Replacing only T.vectorized(4) with T.serial(4) compiled successfully in three fresh processes; each serial process checked three input arrays against the expected result.

No custom pipeline or disabled passes are needed.

Environment
  • Apache TVM 0.26.dev0+source.8f328e8 (source snapshot; no .git directory)
  • Ubuntu 22.04.5, Linux 6.8.0-52-generic, x86-64
  • Python 3.11.16
  • LLVM 15.0.7
  • Target llvm, opt_level=2
  • CPU-only reproducer; no GPU is required
Steps to reproduce

Save the following script as repro_vectorize_let.py and run:

python repro_vectorize_let.py

For the passing control, change T.vectorized(4) to T.serial(4) and run the script again.

import numpy as np
import tvm
from tvm.script import ir as I, tirx as T


@I.ir_module
class Module:
    @T.prim_func(s_tir=True)
    def main(A: T.Buffer((4,), "float32")):
        for i in T.vectorized(4):
            v: T.let[T.float32] = A[i] + T.float32(1)
            if i < 2:
                A[i] = v + T.float32(2)
            else:
                A[i] = v + T.float32(3)


assert tvm.tirx.analysis.verify_ssa(Module["main"])
assert tvm.tirx.analysis.verify_well_formed(Module["main"])
print("input validation passed", flush=True)

with tvm.transform.PassContext(opt_level=2):
    executable = tvm.compile(Module, target="llvm")
print("compiled", flush=True)

for seed in [42, 9001, 20261101]:
    rng = np.random.default_rng(seed)
    x = rng.integers(-16, 17, size=4).astype("float32") / 64
    a = tvm.runtime.tensor(x.copy(), tvm.cpu(0))
    executable["main"](a)
    expected = x + np.array([3, 3, 4, 4], dtype="float32")
    np.testing.assert_array_equal(a.numpy(), expected)
print("three inputs passed", flush=True)
Triage
  • needs-triage
  • type: bug
主要言語
Python
スター
13.9k
フォーク
4k
平均マージ
8時間 5分
マージ済み PR（30日）
170

環境構築

このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apache/tvm のほかの issue

apache/tvm の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。