Blob v2 raw file reader fails on files with anonymous descriptor child IDs
Los mantenedores suelen responder en 2 días
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 47/100
Línea de trabajo
Start by comparing the raw-file reader path in rust/lance-file/src/reader.rs with normalize_blob_footer_schema in rust/lance-file/src/concat.rs, which the issue says is only used by concatenation. Trace how Schema::try_from(&Fields) handles Blob v2 descriptor children with parent_id == -1. Add reader-side normalization for existing files, then cover the C and native writers and readers, both projection modes, NULL and empty rows, an ordinary-column control, and a file from the current writer.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
A v2.2 file with one physical Blob v2 column (3 rows) fails through the ordinary raw-file reader. The failure reproduces with files written by both the C and native Rust writers, and with both the public C FileReader and the direct native Rust FileReader.
Pinned: Lance v14.0.2 (40f15ed1b71b66950961b175829fdf17a763f108).
Symptoms
- Whole-schema projection: the footer reconstructs six top-level fields, giving
[0,5,5,5,5,5]; the reader returnsThe projection specified the column index 5 but there are only 1 columns in the file(rust/lance-file/src/reader.rs:1174). - Explicit
columns=["blob"]: projection[0]passes, but Blob is exposed asStruct([]); consuming the stream returnsStructural validity has 3 entries for an array with 0 values(rust/lance-encoding/src/encodings/logical/primitive/field.rs:874). - An ordinary id column alongside Blob fails analogously with index 6 for two physical columns.
Root cause
Field::unloaded_mut copies the BLOB_V2_DESC_LANCE_FIELD children; their ids and parent_id are -1. The structural writer persists them, and read-side Schema::try_from(&Fields) treats every parent_id == -1 field as a root, so the five descriptor children become orphan top-level fields and the Blob parent loses its children.
normalize_blob_footer_schema handles this shape but is only used by concatenation (rust/lance-file/src/concat.rs:270). Dataset scanning has separate Blob projection handling, so dataset reads pass while the raw-file reader fails.
Requested fix
A reader-side normalization for already-written files. A writer-side ID fix alone cannot repair existing files.
Tests should cover: C and native writers × C and native readers; default and explicit projections; NULL/empty rows; an ordinary-column control; and a pre-existing file produced by the current writer.
Notes
As of lance-format/lance main 58e62bd546081357e2b8966e12ef9bb5c5debbb1 (2026-11-11), the reader path is unchanged and no official fix was found in the checked code.
Reproducer/evidence: lance-format/lance-c#167. Related: lance-format/lance-c#99, lance-format/lance-c#114, lance-format/lance-c#115, lance-format/lance-c#162.
- Lenguaje dominante
- Rust
- Estrellas
- 7.3k
- Forks
- 929
- Merge medio
- 2 d 22 h
- PR fusionados (30 d)
- 572
Preparar el entorno
Inicia el contenedor de desarrollo del proyecto en tu navegador, con tu propia cuenta de GitHub.
- Incluye un Dockerfile o un archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de lance-format/lance
-
bug(python): read_transaction raises TypeError on a Rewrite with rewritten indicesPosiblemente ocupada @Borg93 la tomó hoy. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
lance-format/lance#11117 ·
Los mantenedores suelen responder en 2 días
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
lance-format/lance#10782 ·
Los mantenedores suelen responder en 2 días
-
Upgrade DataFusion for the unparser stack-overflow fixQuizá libre de nuevo Un pull request para esta issue se cerró sin fusionarse. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
lance-format/lance#8225 ·
Los mantenedores suelen responder en 2 días
-
enhancement
Dificultad 1/5 Menos de una hora Aptitud para principiantes 84/100
lance-format/lance#6425 · 2 comentarios ·
Los mantenedores suelen responder en 2 días
-
Expose compute_pq_distanceQuizá libre de nuevo Un pull request para esta issue se cerró sin fusionarse. Abiertoenhancement
Dificultad 1/5 1-3 horas Aptitud para principiantes 62/100
lance-format/lance#5675 · 1 comentario ·
Los mantenedores suelen responder en 2 días
Todos los issues de lance-format/lance
Issues similares
-
area:cli area:security bug priority:medium
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
rtk-ai/rtk#5127 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
status: new topic: ga4gh-sdk type: bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
Los mantenedores suelen responder en 1 día
-
comp-rbac
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
ClickHouse/ClickHouse#131875 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Los mantenedores suelen responder en 1 día
-
`gws auth login` keeps the old token cache, so API calls use a token from the previous grantAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 80/100
googleworkspace/cli#984 ·
Los mantenedores suelen responder en 1 día