Fix or rewrite scraper engine and scrapers
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 20/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Área
- data-engineering
Línea de trabajo
Empieza por localizar el motor de scraping, el scraper maestro, los scrapers individuales y el manejo del manifiesto mencionados en el issue; después, revisa cómo se seleccionan las fuentes, las capturas de pantalla y las extensiones de archivo. Se considerará terminado cuando se hayan corregido los errores de Demozoo y del motor indicados, se hayan comprobado los demás scrapers y una suite de pruebas básica cubra el comportamiento esperado.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Many years have passed since its first release.
Known demozoo bug:
- it always select the first secondary mirror assuming that is from scene.org. This is wrong and should be carefully checked
- demozoo is missing the screenshots, it always downloads only the first one
Known scrape engine bugs:
- sometimes it sets "screenshots" to None: it should set that field to empty list if no screenshot detected
- it doesn't handle very well other extensions than gb, therefore, it may be a good idea to fix this thing, sometimes in the manifest there is "gbc" but the engine has already renamed the file in gb
Other improvements:
- change the general logic to become more flexible (e.g. select best source, include other extensions)
- write a basic test suite
- test from scratch other scrapers, since they may have become buggy due to change in the master scraper
- Lenguaje dominante
- C
- Estrellas
- 95
- Forks
- 52
- Merge medio
- 7 h 33 min
- PR fusionados (30 d)
- 1
Guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de gbdev/database
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 35/100
-
Tag gbcompo23 finalists Abiertodatabase
Dificultad 2/5 1-3 horas Aptitud para principiantes 30/100
-
GBDK Gallery Abiertosource
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100
-
Hardware features Abiertoschema
Dificultad 3/5 1-2 días Aptitud para principiantes 35/100
Todos los issues de gbdev/database
Issues similares
-
internal.h中,漏掉了1个定义。 Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 95/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
-
Broadcast Documentation Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 90/100
kovidgoyal/kitty#10516 ·
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 80/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
zephyrproject-rtos/zephyr#120011 ·