[Feature] Support writing ARRAY<BLOB> fields
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 35/100
- issue の種類
- 機能追加
- 明瞭さ
- おおむね明確
- 活発さ
- 活発
調査の方向性
Start with the ARRAY reader work from #387/#388, then trace BlobFormatWriter, schema validation, the data-evolution write path, and append/data-evolution compaction. Use the BLOB file specification as the format reference. Done means validation, null and descriptor handling, writing, compaction, round-trip tests, and Java/Python compatibility tests all pass.
索引モデルが issue の本文から書いたものです。
説明
Search before asking
- I searched in the issues and found nothing similar.
Motivation
Java Paimon (apache/paimon#8181) and PyPaimon can write top-level ARRAY<BLOB> columns to dedicated .blob files. #387 (PR #388) adds read-only ARRAY<BLOB> support to Paimon C++, but C++ table creation, writes, and append compaction still reject these fields. As a result, C++ users cannot write ordered collections of multimodal objects, such as the frames or images of one sample, to a Paimon table.
Solution
Add Java-compatible write support for top-level ARRAY<BLOB> fields declared with blob-field:
- Schema validation: Match Java
SchemaValidationandColumnDirectiveUtils:- allow
ARRAY<BLOB>only as a top-level field declared withblob-field; - reject it for
blob-descriptor-field, partition keys, and tables without data evolution; - reject
BLOBelements nested more deeply, such asARRAY<ARRAY<BLOB>>.
- allow
- Blob format writer: Extend
BlobFormatWriterto encode eachARRAY<BLOB>row as the nested payload defined in the BLOB file spec. The payload contains:- array magic
1094861634; - version 1;
- element count;
- concatenated element data;
- Delta-Varint element length index;
- index length.
- array magic
- Null handling: Distinguish null arrays (outer length
-1), empty arrays (element count0), null elements (element length-1), and empty elements (element length0). - Element sources: Support both inline raw bytes and
BlobDescriptorelements. Descriptor elements are materialized from their referenced storage when written, as Java does. - Write path: Route
ARRAY<BLOB>fields to dedicated blob files in the data-evolution write path, and remove the write-side rejection for them. - Compaction: Support
ARRAY<BLOB>in append and data-evolution compaction, including placeholder (-2) handling across field groups. - Tests:
- add unit tests for payload encoding, null/empty cases, and error handling;
- add round-trip tests with the C++ reader from #387;
- add Java/Python cross-compatibility tests, with C++ writing and Java/Python reading.
Anything else?
- Depends on #387 / #388 for the reader side.
MAP<K, BLOB>write support andARRAY<BLOB>in primary-key managed BLOB storage (#204) are out of scope and can be tracked separately.- No public API changes are expected. The storage format follows the existing Java spec.
Are you willing to submit a PR?
- I'm willing to submit a PR!
- 主要言語
- C++
- スター
- 65
- フォーク
- 29
- 平均マージ
- 2日 5時間
- マージ済み PR(30日)
- 77
環境構築
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
apache/paimon-cpp のほかの issue
-
[Feature] dictionary encoded binary support対応中かも @zhangweilst が 4 日前に担当しました。 オープンenhancement
apache/paimon-cpp#381 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
[Feature] Bypass manifest lists on exact snapshot live-entry cache hits対応中かも @wangyong9999 が 4 日前に担当しました。 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
apache/paimon-cpp#375 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
[Feature] Support vector and full-text search in File Index対応中かも @zjw1111 が 4 日前に担当しました。 オープンenhancement
難易度 5/5 1週間以上 初心者へのやさしさ 45/100
apache/paimon-cpp#361 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
[Feature] Support 64-bit deletion vectors in Paimon C++対応中かも @lszskye が 4 日前に担当しました。 オープンenhancement
難易度 4/5 3〜5日 初心者へのやさしさ 45/100
apache/paimon-cpp#325 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
[Feature] Support Vortex file format対応中かも @zhouyc-ali が 4 日前に担当しました。 オープンenhancement
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
apache/paimon-cpp#319 · リアクション 1 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
apache/paimon-cpp の issue をすべて見る
似ている issue
-
category:port-update
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1〜3時間 初心者へのやさしさ 88/100
tensorflow/tflite-micro#3784 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
メンテナーはふだん 1 日以内に返信
-
agentic-workflows automation
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
tenstorrent/tt-metal#57946 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
aristocratos/btop#1857 ·
メンテナーはふだん 3 日以内に返信