establish testing (at least smoke) for the notebooks on the hub instance
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- jupyter-notebook
- Área
- testing
Línea de trabajo
Comienza con la ejecución registrada de pytest --nbmake dandi-notebooks/ y el enfoque de nbmake referenciado. Inspecciona los notebooks y sus archivos requirements.txt; después, aclara cómo deben seleccionarse los entornos separados y los tipos de instancia del hub. El trabajo estará terminado cuando las pruebas smoke de los notebooks puedan ejecutarse de forma repetible contra los entornos de hub previstos, con resultados claros de aprobado o fallido.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
with https://github.com/dandi/example-notebooks/issues/9 as the motivator, I think it would be important for us to ensure that notebooks we provide "work" on the hub.
- we need a way to test notebooks on an existing instance of the hub, so we could test new/updated/beta version of the hub
- testing could be just smoke run of the notebook to start with
- I found this article which introduces
nbmake- running
pytest --nbmake dandi-notebooks/now, will report below the "results"
- running
- to complete in reasonable time we might want to allow to run them in parallel (might not do parallel on small instance)
- we should be able to trigger "testing" all notebooks for a specific type of the hub instance (is that "scriptable" @satra to start a specific instance and interact with that environment)?
- similarly to https://github.com/dandi/dandi-api-webshots/ and https://github.com/datalad/datalad-extensions/ we could have a repository (e.g. example-notebooks-dashboard) which would contain the README.md which in a table would list which notebooks are ok or failing on which type of hub instance.
current as of 20211027 state of things
jovyan@jupyter-yarikoptic:~$ pytest --nbmake dandi-notebooks/
===================================== test session starts =====================================
platform linux -- Python 3.9.6, pytest-6.2.5, py-1.10.0, pluggy-1.0.0
rootdir: /home/jovyan
plugins: nbmake-0.10, anyio-3.3.0
collected 9 items
dandi-notebooks/000004_demo_analysis.ipynb F [ 11%]
dandi-notebooks/NWBWidget-demo.ipynb F [ 22%]
dandi-notebooks/Untitled.ipynb . [ 33%]
dandi-notebooks/000055/BruntonLab/peterson21/Fig_coarse_labels.ipynb F [ 44%]
dandi-notebooks/000055/BruntonLab/peterson21/Fig_pow_spectra.ipynb F [ 55%]
dandi-notebooks/000055/BruntonLab/peterson21/Table_coarse_labels.ipynb F [ 66%]
dandi-notebooks/000055/BruntonLab/peterson21/Table_part_characteristics.ipynb F [ 77%]
dandi-notebooks/000055/BruntonLab/peterson21/dashboard.ipynb . [ 88%]
dandi-notebooks/cosyne_2020_tutorial/NWB_tutorial_2019.ipynb . [100%]
edit 1:
- as @bendichter pointed out - some notebooks need environment with nwb extension(s) installed. So we can't just run them all in the same environment. We might need to annotate and then group and run in specific environments
- some notebooks have their own
pip install -r requirements.txtwhich alters the environment thus making order of execution matter etc. Not yet sure what to do about that, besides running each test in a new "clone" of the test environment
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 9
- Forks
- 20
- Merge medio
- 1 h 56 min
- PR fusionados (30 d)
- 2
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de dandi/example-notebooks
-
Mint DOIs for notebook groups from the image workflowQuizá libre de nuevo @asmacdo la tomó hace 65 días y no hay ningún pull request abierto. Abierto
dandi/example-notebooks#202 · 7 comentarios · 3 asignados ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
dandi/example-notebooks#179 ·
-
bwm_usage_notebook.ipynb fails on colabPosiblemente ocupada @bendichter la tomó hace 118 días. Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 52/100
dandi/example-notebooks#176 · 2 comentarios ·
-
weekly-notebook-sweep
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
dandi/example-notebooks#167 · 22 comentarios ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 55/100
dandi/example-notebooks#134 ·
Todos los issues de dandi/example-notebooks
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 73/100
Los mantenedores suelen responder en 1 día
-
bug priority: P3 ready-for-agent
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
shep-pm/shep-kelpie#1332 ·
Los mantenedores suelen responder en 1 día
-
bug code-review testing tooling
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
area/cli complexity:trivial good first issue Stellar Wave test
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
Externalize-Labs/externalize#23 ·
Los mantenedores suelen responder en 1 día
-
good first issue tests
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
Los mantenedores suelen responder en 1 día