minecode-pipelines: update pipelines to save api calls as well as purls

Abierto
#845 1 comentario 0 reacciones 1 asignado Ver en GitHub

@JonoYang ya está trabajando en esto.

Desde el 16/3/2026.

Evaluación

Este issue todavía no se ha evaluado.

Descripción

issues with miners and saving metadata

crates.io

  • the index is organizied by some hashing thing, and the package data is stored in json lines
    • how should we store the upstream metadata in the aboutcode-data repos? should we store the json line entry or recreate the directory structure of the index?

maven

  • not certain if the parser we use for parsing the maven index gives us all the fields of pom data
  • updating the web crawler should be easy enough as it gets the pom files directly

npm

  • the code only looks up the index for the package name and versions and reports those. it does not get the package data proper. the code would need to be updated to have an option to get and store the package data

nuget

  • all package data is stored in a single index file, do we save individual index files for each package version we get?

pypi

  • update code to dump jsons for individual packages

alpine

  • should we save the info of the package individually or just save the apkindex for all packages

composer

  • update get_composer_purl to save package data alongside purl
Lenguaje dominante
HTML
Estrellas
70
Forks
75
Merge medio
3 d 15 h
PR fusionados (30 d)
4

Preparar el entorno

  • Incluye un Dockerfile o un archivo de Docker Compose
  • Sin plantilla de pull request
  • Sin guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de aboutcode-org/purldb

Todos los issues de aboutcode-org/purldb

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.