Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

docker-compose.yaml default model phi-2 no longer exists in the gallery

Abierto
  • ¿Algo no está bien?
#11,974 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 3 días

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
3/5
Tiempo estimado
1-2 días
Aptitud para principiantes
84/100
Tipo de issue
Error
Claridad
Bien especificado
Estado de actividad
Activo
Stack tecnológico
docker-compose, go
Área
ai, devops

Línea de trabajo

Inspecciona docker-compose.yaml y gallery/index.yaml para elegir un modelo predeterminado disponible y, después, revisa core/startup/model_preload.go alrededor de las líneas 44 y 57. Reproduce el fallo con docker compose up -d y docker compose logs api. Se considera terminado cuando el modelo predeterminado existe en la galería y los registros de inicio informan de los errores reales de descubrimiento e instalación sin el mensaje de formateo de nil.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

area/container bug confirmed

LocalAI version:
quay.io/go-skynet/local-ai:master-gpu-nvidia-cuda-13 (sha256:02e823f5f25ddef3f4edb94a8960e506daa4f71595d7c75b041d52b6eaaf425b, LocalAI bcf196d), docker-compose.yaml at the same commit.

Environment, CPU architecture, OS, and Version:
Docker Desktop 29.7.2 (Compose 5.5.1) on Windows 11 (WSL2), x86_64.

Describe the bug
docker-compose.yaml starts LocalAI with command: [phi-2], but the gallery has no phi-2 entry anymore. gallery/index.yaml only has phi-2-chat, phi-2-chat:Q8_0 and phi-2-orange. On a fresh docker compose up, the gallery lookup fails, startup falls through to the autoimporter, which can't handle a bare name, and LocalAI comes up with no model installed. For people following the quickstart, the first thing they see is an error.

There is also a small bug in how that error is reported. core/startup/model_preload.go:57 does

err = errors.Join(discoverErr, fmt.Errorf("failed to discover model config: %w", err))

It wraps the accumulated err (still nil at that point) instead of discoverErr. This produces the log line failed to discover model config: %!w(<nil>). Line 44 (xlog.Error("[startup] failed installing model", "error", err, ...)) has the same pattern: it logs the accumulated err instead of the per-model e.

To Reproduce

  1. docker compose up -d with the repository's docker-compose.yaml.
  2. docker compose logs api

Expected behavior
The default compose file installs a working model, or at least one that exists in the gallery, and the error message names the actual error.

Logs

ERROR [startup] failed to discover model config error=no importer matched for phi-2 model="phi-2"
ERROR error installing models error=no importer matched for phi-2
failed to discover model config: %!w(<nil>)

Additional context
Suggested fixes: point the compose default at an existing gallery entry (for example phi-2-chat, or a more current small model), and wrap discoverErr / log e in model_preload.go.

Lenguaje dominante
Go
Estrellas
49.2k
Forks
4.5k
Merge medio
1 d 7 h
PR fusionados (30 d)
340

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de mudler/LocalAI

Todos los issues de mudler/LocalAI

Issues similares

Más issues de Go

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.