Make Europeana fetch viable

Offen
#224 5 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Anfängerfreundlichkeit
42/100
Issue-Typ
Feature
Klarheit
Größtenteils klar
Aktivitätsstatus
Veraltet
Tech-Stack
python

Rechercherichtung

Beginne mit dem in sources.md verlinkten Europeana-Abschnitt und verfolge den bestehenden Europeana-Einstiegspunkt für das Abrufen sowie den Ablauf der Abfragezählung. Lege fest, wie Zählungen nur für Rechte und ein vierteljährlicher Plan für den ersten Lauf 30 Ausführungen über 30 Tage abdecken sollen, und überprüfe anschließend, dass der resultierende Zeitplan das Abrufen des vollständigen Datensatzes auf einmal vermeidet.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

✨ goal: improvement 💻 aspect: code 🔒 staff only 🚧 status: blocked 🟩 priority: low

Problem

The Europeana data set is too big to fetch all at once, or in its entirety.

  • data providers: 4206
  • rights: 64

Assuming approximately 1 second per query, the expected duration is approximately 75 hours.

Description

  1. Add counts for rights only (not including data providers)
  2. Write a query plan on first run per quarter to map out which queries to make over 30 runs (30 days)

Alternatives

Parallel queries (probably considered impolite, Timid Robot will ask)

Additional context

Implementation

  • I would be interested in implementing this feature.
Vorherrschende Sprache
Python
Sterne
52
Forks
75
Ø Merge
1 T. 14 Std.
Gemergte PRs (30 T.)
3

Entwicklungsumgebung

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus creativecommons/quantifying

Alle Issues in creativecommons/quantifying

Ähnliche Issues

Weitere Issues zu Python

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.