Hacktoberfest 2026：メンテナが10月に向けて印を付けた、オープンで初心者向けの issue。 Hacktoberfest の issue を見る

JVM columnar shuffle panics on a struct column with a NullType field

クローズ 初心者向け
  • 何か問題がありますか？
#7,062 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 2 日以内に返信

@jadenfix がすでに取り組んでいます。

2026年10月17日 から。

  • #7099 @jadenfix による — オープン

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
72/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
java, rust
領域
data-engineering

調査の方向性

native/shuffle/src/spark_unsafe/row.rs の、フィールド優先の 2 つの関数 append_struct_fields_field_major と append_nested_struct_fields_field_major から始めてください。これらは DataType::Null に対して unreachable! に到達します。同じファイルの append_field にある既存の Null 分岐と比べて、行ごとの null がどのように追加されるかを確認してください。issue にある 3 つの SQL 再現ケースが Spark と同じ行を返し、トップレベルの struct とネストした struct の null フィールドを扱う回帰テストがあれば完了です。

索引モデルが issue の本文から書いたものです。

説明

area:shuffle bug priority:high requires-triage
Describe the bug

A shuffle that runs on Comet's JVM columnar shuffle fails the query when one of its columns is a struct with a NullType field, such as named_struct('x', a, 'n', null). The row-to-Arrow conversion panics:

org.apache.comet.CometNativeException: internal error: entered unreachable code: Unsupported data type of struct field: Null
        at datafusion_comet_shuffle::spark_unsafe::row::append_struct_fields_field_major
        at datafusion_comet_shuffle::spark_unsafe::row::append_columns
        at datafusion_comet_shuffle::spark_unsafe::row::process_sorted_row_partition
        at comet::execution::jni_api::write_sorted_file
        at comet::execution::jni_api::Java_org_apache_comet_Native_writeSortedFileNative

Spark returns the rows. Both field-major struct paths in native/shuffle/src/spark_unsafe/row.rs lack a DataType::Null arm and fall through to unreachable!. append_struct_fields_field_major handles a top-level struct column, and append_nested_struct_fields_field_major handles a struct inside a struct:

https://github.com/apache/datafusion-comet/blob/3a4a15940983e4bb9a9a74c816ee51e2cf6d9e17/native/shuffle/src/spark_unsafe/row.rs#L1042-L1047

https://github.com/apache/datafusion-comet/blob/3a4a15940983e4bb9a9a74c816ee51e2cf6d9e17/native/shuffle/src/spark_unsafe/row.rs#L582-L587

append_field in the same file already has the arm. The JVM columnar shuffle's type check accepts NullType at any depth, so nothing keeps these schemas away from the converter, and Null is the only type that check accepts that the two functions are missing.

https://github.com/apache/datafusion-comet/blob/3a4a15940983e4bb9a9a74c816ee51e2cf6d9e17/native/shuffle/src/spark_unsafe/row.rs#L272-L275

With the default configuration this hits every round-robin repartition of such a column, because native round robin is off by default and those shuffles run on JVM columnar shuffle. It also hits a hash shuffle that runs on JVM columnar shuffle, for example under spark.comet.shuffle.mode=jvm. A hash shuffle over a native child runs on native shuffle and works. Arrays and maps that hold nulls (array(null), map(k, null), array(named_struct('x', a, 'n', null))) also work.

Steps to reproduce
CREATE TABLE t (a INT) USING parquet;
INSERT INTO t SELECT CAST(id AS INT) FROM range(1000);

-- top-level struct column
SELECT /*+ REPARTITION(4) */ a, named_struct('x', a, 'n', null) AS st FROM t;

-- struct inside a struct
SELECT /*+ REPARTITION(4) */ a, named_struct('s', named_struct('x', a, 'n', null)) AS st FROM t;

-- hash partitioning on JVM columnar shuffle
SET spark.comet.shuffle.mode=jvm;
SELECT a, named_struct('x', a, 'n', null) AS st FROM t DISTRIBUTE BY a;

All three fail with the panic above. I reproduced them on c3316fbe39 with the Spark 4.1 profile, and the code involved is unchanged on main at 3a4a159409.

Expected behavior

The queries should return the same rows as Spark. Every value of a NullType field is null, so a DataType::Null arm in both functions that appends one null per row, as append_field does, should be enough. A regression test with a top-level and a nested struct would cover both paths.

Additional context

#6977 proposes merging the two field-major functions, which would make an arm like this one change instead of two.

主要言語
Scala
スター
1.3k
フォーク
391
平均マージ
2日 20時間
マージ済み PR（30日）
437

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

apache/datafusion-comet のほかの issue

apache/datafusion-comet の issue をすべて見る

似ている issue

Scala の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。