apache/beam

py DataflowRunner should warn if the stagingLocation has a TTL

Open

#18 123 ouverte le 3 juin 2022

Voir sur GitHub
 (0 commentaires) (0 réactions) (0 assignés)Java (4 097 forks)batch import
P3coregood first issueimprovementpython

Métriques du dépôt

Stars
 (7 313 stars)
Métriques de merge PR
 (Merge moyen 6j) (243 PRs mergées en 30 j)

Description

We have seen a few customers run into a hard-to-track-down bug where the staging bucket has a TTL, but files get TTL-deleted when they are still needed.

This might be because of:

  1. Long lived batch jobs / streaming jobs can reference staged files arbitrarily later and will fail in bad ways if they have been deleted.
  2. Some customers even hit issues where the "check file already exists" succeeds when starting a job, but then the file is TTL-deleted before the job actually starts. (This sounds crazy, but may happen if TTL is 7 days and jobs run every 7 days, for example. Race condition.)

I'm hoping it's not hard to check that files would have TTLs and warn if so.

Imported from Jira BEAM-1506. Original Jira may contain additional context. Reported by: dhalperi.

Guide contributeur

Direction de recherche
Examinez comment récupérer les règles de cycle de vie du bucket via le client Google Cloud Storage et ajoutez un avertissement à DataflowRunner si un TTL est défini.
Stack technique
python
Domaine
backendcloud
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonGoogle Cloud Storage
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60