Cross-check the child stats of string columns against vortex-jni

Aberta
#708 0 comentários 0 reações 0 responsáveis Ver no GitHub

Mantenedores costumam responder em até 1 dia

Ninguém assumiu esta issue ainda.

Avaliação

Dificuldade
3/5
Tempo estimado
1-2 dias
Facilidade para iniciantes
58/100
Tipo de issue
Bug
Clareza
Razoavelmente clara
Status de atividade
Ativa
Stack de tecnologia
java
Domínio
testing

Direção de pesquisa

Read NodeStatsInteropIntegrationTest and docs/compatibility.md, especially the vortex.fsst notes. Identify the child stats for string columns and compare stat presence and precision per node, plus values that do not depend on the trained FSST table; use a low-cardinality column for dict codes. Done means the test covers these cases without comparing FSST-dependent values byte-for-byte.

Escrita pelo modelo de indexação a partir do texto da issue.

Descrição

enhancement good first issue

Split from #583. NodeStatsInteropIntegrationTest compares every flat root and the whole tree of the numeric columns against vortex-jni, but not the children of string columns (FSST lengths and codes, dict values).

Their stat values depend on the trained FSST symbol table, which cannot be byte-identical to Rust's: candidates of equal gain pop in hash-map iteration order, which depends on the CPU's SIMD width (see docs/compatibility.md, vortex.fsst). A plain comparison would be flaky.

To do: compare the stat set per node (which stats are present, precision) rather than values where the table matters, and values where they do not (e.g. vortex.sequence offsets, dict codes of a low-cardinality column).

Parity directive: this is a test gap, not a known divergence.

Linguagem predominante
Java
Estrelas
3
Forks
2
Merge médio
9h 19min
PRs com merge (30d)
154

Preparar o ambiente

Primeiros passos

  1. Leia a issue inteira e depois o guia de contribuição do projeto.
  2. Comente na issue dizendo que vai assumir — evita que duas pessoas façam o mesmo trabalho.
  3. Faça um fork do repositório e trabalhe em uma branch.
  4. Abra um pull request que referencie o número da issue.

Mais de dfa1/vortex-java

Todas as issues de dfa1/vortex-java

Issues semelhantes

Mais issues de Java

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.