Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

Test Gemma 4 -gpu model files before switching the catalog

Abierto
  • ¿Algo no está bien?
#219 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
3/5
Tiempo estimado
1-2 días
Aptitud para principiantes
55/100
Tipo de issue
Nueva funcionalidad
Claridad
Bien especificado
Estado de actividad
Activo
Stack tecnológico
dart
Área
machine-learning, mobile

Línea de trabajo

Start with #216 and the catalog entry in lib/data/repositories/ai_model_repository_impl.dart. On a real phone, compare the generic and -gpu Gemma 4 E2B files on GPU, then force CPU with the -gpu file; repeat for E4B if E2B looks promising. Done means the load, prefill, decode, and memory comparisons support a clear decision about whether to switch, while confirming whether CPU fallback still works.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

enhancement P3-Low

What

Test whether the special GPU model files for Gemma 4 are better for us, before changing the catalog.

Why

Both Gemma 4 repos on Hugging Face ship two versions of the model:

Model What we download today Also available
Gemma 4 E2B gemma-4-E2B-it.litertlm gemma-4-E2B-it-gpu.litertlm
Gemma 4 E4B gemma-4-E4B-it.litertlm gemma-4-E4B-it-gpu.litertlm

Now that the app prefers the GPU on Android (#216), the -gpu file might load faster or run faster.

But the model card doesn't explain what's different, so we should not switch blindly.

Risk to check

The -gpu file may be GPU-only. If it is, our CPU fallback would break — phones where the GPU fails would not be able to run Gemma 4 at all. This has to be tested before switching.

How to test (on a real phone)

  1. Download both files for Gemma 4 E2B.
  2. Run the same prompt with each, on GPU, and compare from the log:
    • load time
    • prefill (reading the prompt) time
    • decode (writing the answer) speed
    • memory use
  3. Force CPU with the -gpu file and check it still loads. If it doesn't, we can't use it as the only download.
  4. Repeat for E4B if E2B looks good.

Decide

  • Faster and still works on CPU → switch the catalog URL in lib/data/repositories/ai_model_repository_impl.dart
  • Faster but GPU-only → keep the generic file (or download per device, which is a bigger change)
  • No real difference → keep the generic file and close this

Depends on #216.

Lenguaje dominante
Dart
Estrellas
2
Forks
2
Merge medio
1 d 35 min
PR fusionados (30 d)
36

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de basictech01/uniun

Todos los issues de basictech01/uniun

Issues similares

Más issues de Dart

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.