Improve error messages

Abierto Apto para principiantes
#2,145 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
2/5
Tiempo estimado
1-3 horas
Aptitud para principiantes
65/100
Tipo de issue
Error
Claridad
Bien especificado
Estado de actividad
Estancado
Stack tecnológico
python
Área
backend-api-design

Línea de trabajo

El error se origina en _internals.py, línea 58. Revisa la lógica de carga del modelo antes de esa línea para ver qué puede causar el fallo (por ejemplo, que no se encuentre el archivo, permisos o problemas de formato). Mejora el mensaje de error para que incluya el motivo específico, por ejemplo, comprobando si existe el archivo o capturando las excepciones subyacentes. Prueba los cambios ejecutando el fragmento de Colab proporcionado.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Repro steps:

  1. Go to https://huggingface.co/HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive
  2. Click "use this model" -> colab
  3. Run code on colab

Generated code is:

from llama_cpp import Llama

llm = Llama.from_pretrained(
	repo_id="HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive",
	filename="Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-BF16.gguf",
)

which fails with:

ValueError                                Traceback (most recent call last)

[/tmp/ipykernel_1917/696730726.py](https://localhost:8080/#) in <cell line: 0>()
      3 from llama_cpp import Llama
      4 
----> 5 llm = Llama.from_pretrained(
      6         repo_id="HauhauCS/Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive",
      7         filename="Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-BF16.gguf",

2 frames

[/usr/local/lib/python3.12/dist-packages/llama_cpp/_internals.py](https://localhost:8080/#) in __init__(self, path_model, params, verbose)
     56 
     57         if model is None:
---> 58             raise ValueError(f"Failed to load model from file: {path_model}")
     59 
     60         vocab = llama_cpp.llama_model_get_vocab(model)

ValueError: Failed to load model from file: /root/.cache/huggingface/hub/models--HauhauCS--Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive/snapshots/53367faad177ee6a23601983cdac4308b51393df/./Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-BF16.gguf

This error message is not actionable as it doesn't say why it failed to load so the user can't do much about it.

Lenguaje dominante
Python
Estrellas
10.6k
Forks
1.5k
Merge medio
23 min
PR fusionados (30 d)
1

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de abetlen/llama-cpp-python

Todos los issues de abetlen/llama-cpp-python

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.