[Bug] [Relax][ONNX] Expand uses a symbolic requested shape without merging broadcast dimensions

Abierto
  • ¿Algo no está bien?
#20,897 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
68/100
Tipo de issue
Error
Claridad
Bien especificado
Estado de actividad
Activo
Stack tecnológico
python
Área
compilers

Línea de trabajo

Start with the ShapeExpr branch in python/tvm/relax/frontend/onnx/onnx_frontend.py, around lines 3453–3515, and trace how it handles the requested shape in Expand. Run the supplied reproduction with z_shape ["N", 2]; it should produce the same [3, 2] output as the constant-shape case, without dropping rows.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

needs-triage type: bug
Expected behavior

Expanding [3,1] with requested shape [1,2] should produce [3,2] under ONNX multidirectional broadcasting, including when the requested shape comes from Shape(z).

Actual behavior

With the same actual inputs, declaring z as [1,2] gives the correct [3,2] output. Changing only its annotation to [N,2] silently produces [1,2] and drops two rows:

[1, 2] TVM (3, 2) [[1.0, 1.0], [2.0, 2.0], [3.0, 3.0]]
['N', 2] TVM (1, 2) [[1.0, 1.0]]

The ShapeExpr branch merges only constant target extents. This differs from #20873: the target here is a symbolic ShapeExpr and conversion succeeds.

Environment

TVM 0.28.dev0, LLVM 18.1.3, Linux x86_64; Python 3.12.3, NumPy 2.5.4, ONNX 1.22.0, ORT 1.29.0. The installed binary build revision is unknown; current main was inspected statically, not rebuilt.

Steps to reproduce

Run with an LLVM-enabled TVM installation:

import numpy as np
import onnx
import tvm
from onnx import TensorProto as T, helper as h
from onnx.reference import ReferenceEvaluator
from tvm import relax
from tvm.relax.frontend.onnx import from_onnx

x = np.array([[1], [2], [3]], dtype="float32")
z = np.zeros((1, 2), dtype="float32")
expected = np.repeat(x, 2, axis=1)
for z_shape in ([1, 2], ["N", 2]):
    model = h.make_model(h.make_graph([
        h.make_node("Shape", ["z"], ["shape"]),
        h.make_node("Expand", ["x", "shape"], ["y"])], "expand",
        [h.make_tensor_value_info("x", T.FLOAT, [3, 1]),
         h.make_tensor_value_info("z", T.FLOAT, z_shape)],
        [h.make_tensor_value_info("y", T.FLOAT, [3, 2])]),
        opset_imports=[h.make_opsetid("", 18)], ir_version=10)
    onnx.checker.check_model(model, full_check=True)
    np.testing.assert_array_equal(ReferenceEvaluator(model).run(None, {"x": x, "z": z})[0], expected)
    try:
        mod = from_onnx(model, keep_params_in_input=False)
        vm = relax.VirtualMachine(relax.build(mod, target="llvm"), tvm.cpu())
        actual = vm["main"](tvm.runtime.tensor(x), tvm.runtime.tensor(z)).numpy()
        print(z_shape, "TVM", actual.shape, actual.tolist())
        if z_shape[0] == 1:
            np.testing.assert_array_equal(actual, expected)
    except Exception as error:
        if z_shape[0] == 1:
            raise
        print(z_shape, type(error).__name__, str(error).splitlines()[-1])
Triage
  • needs-triage
Lenguaje dominante
Python
Estrellas
13.9k
Forks
4k
Merge medio
7 h 59 min
PR fusionados (30 d)
159

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de apache/tvm

Todos los issues de apache/tvm

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.