Fix or rewrite scraper engine and scrapers
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 20/100
- Tipo di issue
- Bug
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Ambito
- data-engineering
Direzione di ricerca
Inizia individuando il motore di scraping, lo scraper principale, i singoli scraper e la gestione del manifest menzionati nell’issue, quindi esamina come vengono selezionate le fonti, gli screenshot e le estensioni dei file. Il lavoro è completato quando i bug di Demozoo e del motore elencati sono stati corretti, gli altri scraper sono stati verificati e una suite di test di base copre il comportamento previsto.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Many years have passed since its first release.
Known demozoo bug:
- it always select the first secondary mirror assuming that is from scene.org. This is wrong and should be carefully checked
- demozoo is missing the screenshots, it always downloads only the first one
Known scrape engine bugs:
- sometimes it sets "screenshots" to None: it should set that field to empty list if no screenshot detected
- it doesn't handle very well other extensions than gb, therefore, it may be a good idea to fix this thing, sometimes in the manifest there is "gbc" but the engine has already renamed the file in gb
Other improvements:
- change the general logic to become more flexible (e.g. select best source, include other extensions)
- write a basic test suite
- test from scratch other scrapers, since they may have become buggy due to change in the master scraper
- Lingua principale
- C
- Stelle
- 95
- Fork
- 52
- Merge medio
- 7h 33m
- PR unite (30g)
- 1
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di gbdev/database
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 35/100
-
Tag gbcompo23 finalists Apertadatabase
Difficoltà 2/5 1-3 ore Idoneità per principianti 30/100
-
GBDK Gallery Apertasource
Difficoltà 3/5 1-2 giorni Idoneità per principianti 25/100
-
Hardware features Apertaschema
Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100
Tutte le issue di gbdev/database
Issue simili
-
internal.h中,漏掉了1个定义。 Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 95/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
-
Broadcast Documentation Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
kovidgoyal/kitty#10516 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 80/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
zephyrproject-rtos/zephyr#120011 ·