lance-format/lance

[Duckdb] Zero copy Arrow Array/RecordBatch to duckdb Vector/DataChunk conversion

Open

#348 aberto em 4 de dez. de 2022

Ver no GitHub
 (0 comments) (0 reactions) (0 assignees)Rust (695 forks)github user discovery
arrowduckdbhelp wantedrust

Métricas do repositório

Stars
 (6.582 stars)
Métricas de merge de PR
 (Mesclagem média 6d 1h) (219 fundiu PRs em 30d)

Description

Problem Statement

#347 converts arrow array / RecordBatch reading from the LanceDataset to duckdb corresponding data structures via heavy data copy.

We need to implement zero-copy data transfer between arrow and duckdb to make the extension production ready.

  • Primitive Arrays to duckdb::Vector
  • ::arrow::StructArray
  • ::arrow::ListArray
  • ::arrow::DictionaryArray

Guia do colaborador

Direção de pesquisa
Estude a interface de dados C do Arrow e a integração do Arrow do DuckDB. Implemente cópia zero gerenciando com segurança a propriedade da memória e evitando serialização. Comece com arrays primitivos.
Pilha de tecnologia
rust
Domain
backenddatabase
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
5
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Mais de 1 semana
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
RustApache ArrowDuckDB internals
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30