Better document the impact of data dtype on performance

Abierto
#992 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 2 días

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
3/5
Tiempo estimado
1-2 días
Aptitud para principiantes
56/100
Tipo de issue
Documentación
Claridad
Bastante claro
Estado de actividad
Tranquilo
Stack tecnológico
numpy, python

Línea de trabajo

Start by locating the napari documentation pages that explain image data and performance, then trace how Layer.data reaches the displayed GPU texture as suggested in the issue. Document the supported dtypes, when other dtypes are coerced during slicing, and the performance impact; done means users can find this guidance and understand the implications for large slices.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

documentation task

🧰 Task

Our vispy/gpu pipeline only supports int8, uint8, int16, uint16, float32, other dtypes get coerced during slicing.
This has a pretty significant performance implication for large slices of e.g. float64 or in64 data.
See also: https://github.com/napari/napari/issues/1300#issuecomment-4274666208

Importantly, many numpy functions can produce float64 or int64 by default, triggering this issue.

We should raise more awareness of this in the documentation and possibly add an in-depth look at the data handling pipeline from Layer.data to the displayed gpu texture.

Lenguaje dominante
Makefile
Estrellas
13
Forks
71
Merge medio
3 d 11 h
PR fusionados (30 d)
30

Preparar el entorno

  • Sin Dockerfile ni archivo de Docker Compose
  • Tiene una plantilla de pull request
  • Sin guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de napari/docs

Todos los issues de napari/docs

Issues similares

Más issues de Documentation

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.