[VL] Driver-side broadcast hash table build falls back when a build key is a generated alias
Los mantenedores suelen responder en 3 días
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- Medio día
- Aptitud para principiantes
- 62/100
- Tipo de issue
- Error
- Claridad
- Bien especificado
- Estado de actividad
- Activo
- Stack tecnológico
- scala, spark
- Área
- data-engineering
Línea de trabajo
Start with buildHashTableWithRuntime in ColumnarBuildSideRelation and UnsafeColumnarBuildSideRelation, and compare it with the executor-side buildHashTable that #12407 already fixed by mapping each join key to the build output attribute with the same exprId. Trace the fallback through VeloxSparkPlanExecApi. Done when the json_tuple LATERAL VIEW query with driverSideBroadcastHashTableBuild=true builds on the driver without the 'falling back to executor-side build' log.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
With spark.gluten.sql.columnar.backend.velox.driverSideBroadcastHashTableBuild=true, the driver-side hash table build fails when a join key reaches the build side under a generated alias, for example the json_tuple LATERAL VIEW query added in #12407. The native build reports Field not found: key#329. Available fields are: p_partkey#197, _post_11#329. VeloxSparkPlanExecApi catches the error, logs "Failed to build hash table on driver ... falling back to executor-side build", and each executor builds the table instead. Results are correct, but the driver-side build never takes effect for such joins.
#12407 fixed this for the executor-side buildHashTable in ColumnarBuildSideRelation and UnsafeColumnarBuildSideRelation by mapping each join key to the build output attribute with the same exprId. buildHashTableWithRuntime, which does the driver-side build, still passes the unmapped name.
This issue was written with the assistance of AI (Claude Opus).
- Lenguaje dominante
- Scala
- Estrellas
- 1.6k
- Forks
- 685
- Merge medio
- 4 d 16 h
- PR fusionados (30 d)
- 84
Preparar el entorno
Inicia el contenedor de desarrollo del proyecto en tu navegador, con tu propia cuenta de GitHub.
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de apache/gluten
-
[CORE] Selecting a cost model the backend has no coster for fails with ClassNotFoundExceptionPosiblemente ocupada @LuciferYang la tomó hace 1 día. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 66/100
Los mantenedores suelen responder en 3 días
-
bug unit testing velox backend
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
apache/gluten#13463 · 1 comentario ·
Los mantenedores suelen responder en 3 días
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 82/100
Los mantenedores suelen responder en 3 días
-
[VL] madvise(WILLNEED) call fails in MmapFileStream because of wrong calculation of fetching lengthQuizá libre de nuevo Un pull request para esta issue se cerró sin fusionarse. Abiertobug triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 3 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 3 días
Todos los issues de apache/gluten
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
rchillyard/TableParser#206 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 2 días
-
? - Needs Triage bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 66/100
NVIDIA/cudf-spark#17063 ·
Los mantenedores suelen responder en 2 días
-
bug 🐞 User issue 🚨
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
valkey-io/valkey-glide#7813 · 2 comentarios ·
Los mantenedores suelen responder en 1 día