salesforce/TransmogrifAI

Factor out all common spark/hadoop properties

Offen

#87 geöffnet am 24.08.2018

Auf GitHub ansehenContributor Guide
 (8 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Scala (399 Forks)batch import
good first issue

Repository-Metriken

Stars
 (2.274 Sterne)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

Problem We currently largely overlapping spark.gradle files especially in terms of spark properties.

$ git ls-files | grep spark.gradle
gradle/spark.gradle
helloworld/gradle/spark.gradle
templates/simple/spark.gradle

Solution Provide a way to have a single spark.gradle or at least a single spark-transmogrifai.conf file with common properties that is passed via --properties-file to Spark.

Alternatives

  • common properties file
  • refactored spark.gradle

Additional context DRY

Contributor Guide

Research-Richtung
Extrahieren Sie die gemeinsamen Spark und Hadoop Eigenschaften aus den drei spark.gradle Dateien in eine einzige gemeinsame Datei. Ziehen Sie die Verwendung einer Spark Konfigurationsdatei (z. B. spark transmogrifai.conf) in Betracht, die über properties file übergeben wird. Stellen Sie sicher, dass die Refaktorisierung keine bestehenden Builds beschädigt.
Tech Stack
scala
Domain
backend
Issue Type
Refactoring
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
Halber Tag
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
ScalaGradleApache Spark
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
65