Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

MOE uses more memory than dense model and is slower

Abierto
  • ¿Algo no está bien?
#166 1 comentario 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
25/100
Tipo de issue
Error
Claridad
Necesita aclaración
Estado de actividad
Estancado
Stack tecnológico
python
Área
machine-learning, performance

Línea de trabajo

No se nombra ningún archivo de código fuente, prueba ni punto de entrada. Empieza por reproducir la comparación reportada del modelo de ~520M con una dimensión de embedding de 1536, 48 expertos, 8 expertos activos, un tamaño de experto de 128 y un peso de pérdida auxiliar de 0.001. Se considera terminado cuando se haya explicado la diferencia de memoria y tiempo de entrenamiento, y se haya confirmado el siguiente paso para el issue.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

I am training a ~520 M model, but I have found that the megablocks moe version uses substantially more memory and takes longer to train than a dense model of corresponding size. I am using a model embedding dimension of 1536. The moe model has 48 experts with 8 active and and expert size of 128. I set lbl loss weight to 0.001.

Image Image Image
Lenguaje dominante
Python
Estrellas
1.6k
Forks
230
Sin PR fusionados en 30 d

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de databricks/megablocks

Todos los issues de databricks/megablocks

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.