Make Europeana fetch viable

Ouverte
#224 5 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

Évaluation

Difficulté
4/5
Temps estimé
3-5 jours
Accessibilité débutants
42/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
À l'abandon
Stack technique
python

Piste de recherche

Commencez par la section Europeana liée depuis sources.md et suivez le point d’entrée existant de récupération de Europeana ainsi que le flux de comptage des requêtes. Définissez comment les comptages limités aux droits et un plan trimestriel de premier lancement doivent couvrir 30 exécutions sur 30 jours, puis vérifiez que la planification obtenue évite de récupérer l’ensemble du jeu de données en une seule fois.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

✨ goal: improvement 💻 aspect: code 🔒 staff only 🚧 status: blocked 🟩 priority: low

Problem

The Europeana data set is too big to fetch all at once, or in its entirety.

  • data providers: 4206
  • rights: 64

Assuming approximately 1 second per query, the expected duration is approximately 75 hours.

Description

  1. Add counts for rights only (not including data providers)
  2. Write a query plan on first run per quarter to map out which queries to make over 30 runs (30 days)

Alternatives

Parallel queries (probably considered impolite, Timid Robot will ask)

Additional context

Implementation

  • I would be interested in implementing this feature.
Langage dominant
Python
Étoiles
52
Forks
75
Merge moyen
1 j 14 h
PR mergées (30 j)
3

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de creativecommons/quantifying

Toutes les issues de creativecommons/quantifying

Issues similaires

Plus d'issues Python

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.