gosom/google-maps-scraper

Option "do not scrape duplicates"

Open

#48 ouverte le 24 avr. 2024

Voir sur GitHub
 (2 commentaires) (1 réaction) (0 assignés)Go (631 forks)auto 404
enhancementgood first issue

Métriques du dépôt

Stars
 (4 218 stars)
Métriques de merge PR
 (Merge moyen 19j) (12 PRs mergées en 30 j)

Description

Often, when scraping several similar queries (or one query in nearby locations), duplicates may appear in search results, resulting in duplicate entries in the output file and requiring additional time to complete the task. Is it possible to implement a parameter that prevents scraping information about an organization if it has already been scraped earlier?

Guide contributeur

Direction de recherche
Implémentez un indicateur de ligne de commande (par exemple dedup) qui stocke les identifiants uniques (par exemple place id) des endroits déjà scrappés dans un ensemble ou un fichier, et sautez le scraping si l'identifiant existe déjà. Recherchez dans le code existant où les résultats sont traités et ajoutez y une vérification de déduplication.
Stack technique
go
Domaine
cli
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
Go
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60