scrapinghub/arche

Use `pool` to download items with `filter`

Offen

#13 geöffnet am 25.12.2018

Auf GitHub ansehen
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)Python (17 Forks)auto 404
Type: BugType: Performancegood first issue

Repository-Metriken

Stars
 (47 Sterne)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

The current logic of dividing on batches by start_index and count doesn't account for filter. When using filter, returned items _key don't correspond with actual index so the data repeats.

Contributor Guide

Research-Richtung
Untersuchen Sie die Batch Download Logik im Pool Modul, um zu verstehen, wie der Filter die Indexzuordnung beeinflusst, und schlagen Sie eine Korrektur vor, um Datenwiederholungen zu vermeiden.
Tech Stack
python
Domain
backenddata
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
Halber Tag
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
GitPython
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
75