apache/beam

[Feature Request]: Cache the BigQuery table definition instead of calling tables.get() from every worker

Aberta

#34.076 aberto em 26 de fev. de 2025

Ver no GitHubGuia do colaborador
 (10 comentários) (0 reação) (4 responsáveis)Java (4.097 forks)batch import
P2good first issuenew featurepython

Métricas do repositório

Stars
 (7.313 estrelas)
Métricas de merge de PR
 (Métricas PR pendentes)

Description

What would you like to happen?

When calling BigQuery's tables.get method, today, we are calling it from every Dataflow worker. This is resulting in customers hitting Quota issues. Please can we cache the Table definition and re-use for all workers instead of calling the method from every worker.

https://cloud.google.com/bigquery/docs/reference/rest/v2/tables/get

https://github.com/apache/beam/blob/9a1e7bf4cd399177e5de7fe28bad741cade452a5/sdks/python/apache_beam/io/gcp/bigquery.py#L902-L903

https://github.com/apache/beam/blob/9a1e7bf4cd399177e5de7fe28bad741cade452a5/sdks/python/apache_beam/io/gcp/bigquery_tools.py#L565

Issue Priority

Priority: 2 (default / most feature requests should be filed as P2)

Issue Components

  • Component: Python SDK
  • Component: Java SDK
  • Component: Go SDK
  • Component: Typescript SDK
  • Component: IO connector
  • Component: Beam YAML
  • Component: Beam examples
  • Component: Beam playground
  • Component: Beam katas
  • Component: Website
  • Component: Infrastructure
  • Component: Spark Runner
  • Component: Flink Runner
  • Component: Samza Runner
  • Component: Twister2 Runner
  • Component: Hazelcast Jet Runner
  • Component: Google Cloud Dataflow Runner

Guia do colaborador

Direção de pesquisa
Investigue as chamadas existentes para tables.get() no SDK Python, especificamente em bigquery.py (linhas 902-903) e bigquery tools.py (linha 565) conforme vinculado na issue. Determine uma estratégia de cache que evite chamar a API de cada worker. Considere usar um cache compartilhado entre workers ou um padrão de inicialização preguiçosa (lazy). Revise os 9 comentários na issue para quaisquer soluções propostas ou feedback dos mantenedores.
Pilha de tecnologia
python
Domain
backendcloudapi
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
2
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonApache BeamGoogle Cloud BigQuerycaching concepts
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
70