Use an already trained Keras model to predict on lots of data
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bastante claro
- Estado de actividad
- Estancado
- Stack tecnológico
- keras, python
Línea de trabajo
Comienza con la referencia de ParallelPostFit y los ejemplos de X.map_blocks y df.map_partitions del issue. Investiga cómo se serializa un modelo Keras diferido en el grafo de tareas, incluida la cuestión de la deserialización en GPU. Se considera terminado cuando el ejemplo o el comportamiento de dask-ml estén documentados o actualizados para evitar la serialización repetida del modelo y representar el modelo como una única tarea.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
A common approach is to train on a bit of data and then use that trained model to predict on lots of data. We could do this using ParallelPostFit in dask-ml, or we can use X.map_blocks or df.map_partitions. In either case we might want to be a bit careful about avoiding repeated serializations costs. For example, in the following case I suspect that we include the serialized model in every task
# maybe bad?
model = load_model()
predictions = X.map_blocks(model.predict)
It's probably better to encourage the user to keep the model delayed
# maybe bad?
model = dask.delayed(load_model)()
predictions = X.map_blocks(model.predict)
We should also ensure that dask-ml does this correctly, and includes the model as a single task in the graph so that it gets sent around appropriately (cc @TomAugspurger )
I'm also generally curious if a Keras model that lives on the GPU will eventually make its way back onto the GPU when deserializing.
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 385
- Forks
- 225
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de dask/dask-examples
-
Quickfix for copy and paste bug in futures.ipynb commentsPosiblemente ocupada @nightcityblade la tomó hace 89 días. Abiertogood first issue
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
dask/dask-examples#247 · 2 comentarios ·
-
ML notebook points to ML tutorial lesson that was removedPosiblemente ocupada @nightcityblade la tomó hace 85 días. Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 78/100
dask/dask-examples#234 · 1 comentario ·
-
CI failing on mainPosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
dask/dask-examples#246 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 38/100
dask/dask-examples#236 · 1 comentario ·
-
XGboost example outdated and broken doc linksPosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 48/100
dask/dask-examples#235 · 1 comentario ·
Todos los issues de dask/dask-examples
Issues similares
-
needs triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 2 días
-
Delete outputs/lstmAbiertoNRDS AWS Costs NRDS AWS Output Data
Dificultad 1/5 Menos de una hora Aptitud para principiantes 82/100
CIROH-UA/ngen-datastream#435 ·
-
status:in-linear
Dificultad 2/5 1-3 horas Aptitud para principiantes 67/100
n8n-io/n8n#42252 · 2 comentarios ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
wireservice/agate#831 ·
-
[dagster-dbt] Fusion selection via `dbt list` returns an empty set when `dbt list` fails, so assets silently disappearPosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
dagster-io/dagster#34357 ·
Los mantenedores suelen responder en 1 día