apache/airflow

OpenLineage provider emits warning about use of fork() on Python 3.12

Open

#47 160 ouverte le 27 févr. 2025

Voir sur GitHub
 (4 commentaires) (0 réactions) (0 assignés)Python (16 781 forks)batch import
area:providersgood first issuekind:bugprovider:openlineage

Métriques du dépôt

Stars
 (44 809 stars)
Métriques de merge PR
 (Merge moyen 7j 18h) (834 PRs mergées en 30 j)

Description

Apache Airflow Provider(s)

openlineage

Versions of Apache Airflow Providers

main

Apache Airflow version

latest

Operating System

null

Deployment

Virtualenv installation

Deployment details

No response

What happened

There is a warning being emitted. Need to investigate alternatives and adjust provider code.

WARNING - /usr/local/lib/python3.12/site-packages/airflow/providers/openlineage/plugins/listener.py:400 DeprecationWarning: This process (pid=682) is multi-threaded, use of fork() may lead to deadlocks in the child.

What you think should happen instead

No response

How to reproduce

Run dag with OpenLineage enabled on python 3.12

Anything else

No response

Are you willing to submit PR?

  • Yes I am willing to submit a PR!

Code of Conduct

Guide contributeur

Direction de recherche
L'avertissement se produit dans /usr/local/lib/python3.12/site packages/airflow/providers/openlineage/plugins/listener.py:400. Étudiez l'utilisation de fork() dans ce fichier et envisagez d'utiliser multiprocessing spawn ou d'autres méthodes pour éviter les interblocages. Vérifiez la compatibilité du code du fournisseur OpenLineage avec Python 3.12. Le rapporteur est prêt à soumettre une PR, donc toute orientation des mainteneurs sur l'approche préférée serait utile.
Stack technique
python
Domaine
backend
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonAirflow
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
65