Allow training the normalizing flow on a different JAX device

Abierto
#368 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
3/5
Tiempo estimado
1-2 días
Aptitud para principiantes
58/100
Tipo de issue
Nueva funcionalidad
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
python

Línea de trabajo

Start by locating with_transform_adapt and tracing how flow training and per-gradient evaluation choose their JAX devices. The issue gives the expected call shape and reports a 1.6x per-epoch speedup in one prototype; compare behavior with and without train_device and check that training uses the requested device while gradient evaluation stays on the CPU.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

normalizing-flows

with_transform_adapt should take a device for training the flow, so training can run on a GPU while the per-gradient flow evaluation stays on the CPU next to the compiled logp. Gradient evaluations are single-point calls, and training works on batches of draws. A prototype that trains on an Apple GPU through jax-graft was 1.6x faster per epoch at 200 dimensions with an 8-layer flow.

compiled = compiled.with_transform_adapt(train_device=jax.devices("mtl")[0])
Lenguaje dominante
Python
Estrellas
214
Forks
30
Merge medio
3 h 50 min
PR fusionados (30 d)
1

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de pymc-devs/nutpie

Todos los issues de pymc-devs/nutpie

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.