apache/airflow

SparkKubernetesOperator to support arguments

Offen

#16.728 geöffnet am 30.06.2021

Auf GitHub ansehenContributor Guide
 (9 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (16.781 Forks)batch import
area:providersgood first issuekind:documentationkind:featureprovider:cncf-kubernetes

Repository-Metriken

Stars
 (44.809 Sterne)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

Need an option ,when triggering a dag via airflow web ui, to pass JSON arguments to SparkKubernetesOperator.

Currently I don't see a way to do it as, SparkKubernetesOperator accepts application.yaml only.

Contributor Guide

Research-Richtung
Zuerst suchen Sie die Klasse SparkKubernetesOperator in der Airflow Codebasis, wahrscheinlich in `airflow/providers/apache/spark/operators/spark kubernetes.py`. Untersuchen Sie, wie der Operator derzeit die `application.yaml` verarbeitet und wo Argumente injiziert werden könnten. Der Operator benötigt möglicherweise einen neuen Parameter, um einen JSON String oder ein Dictionary zu akzeptieren, der dann in die SparkApplication Spezifikation gerendert wird. Überprüfen Sie vorhandene Airflow Operatoren, die JSON Argumente verarbeiten, um Muster zu erkennen. Sehen Sie sich die Issue Kommentare auf vorgeschlagene Ansätze oder Feedback der Maintainer an.
Tech Stack
python
Domain
backend
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
Halber Tag
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
AirflowPython
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60