No model information retrieval
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Aptitud para principiantes
- 35/100
Línea de trabajo
Comienza leyendo el comportamiento existente de ollama.show() y ollama.chat() descrito en el issue y, a continuación, determina qué metadatos del modelo están disponibles para exponer. Se considera terminado cuando los usuarios pueden recuperar valores como la longitud del contexto, la cuantización y la longitud de los embeddings sin cambiar manualmente las opciones de chat; no se nombran archivos ni pruebas específicos.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
I have faced an issue where I needed to test multiple models and change the desired num_ctx params and other options as well based on the model I'm currently using.
While ollama.show() provides a good output for this, I want these parameters to be retrieved as values without me having to manually change options during ollama.chat() .
Something like modelinfo.py or another tool that would provide methods for various parameter retrieval (i.e. context length, quantization, embedding length, etc.).
If this is something you would like to see, I want to implement it myself and create a PR!
- Lenguaje dominante
- Python
- Estrellas
- 10.6k
- Forks
- 1.2k
- Merge medio
- 1 h 45 min
- PR fusionados (30 d)
- 2
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de ollama/ollama-python
-
GenerateResponse/ChatResponse silently drop the server's prompt_eval_cached_count fieldPosiblemente ocupada @pfolex la tomó hace 2 días. Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 95/100
ollama/ollama-python#779 ·
Los mantenedores suelen responder en 1 día
-
GenerateResponse/ChatResponse silently drop the server's prompt_eval_cached_count fieldPosiblemente ocupada @shuaiyafei la tomó hace 5 días. Abierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
ollama/ollama-python#773 ·
Los mantenedores suelen responder en 1 día
-
Empty tools: [] triggers tool-calling on Llama 3.x client-side templatesPosiblemente ocupada @Mrun25 la tomó hace 8 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
ollama/ollama-python#767 · 2 comentarios ·
Los mantenedores suelen responder en 1 día
-
TokenLogprob/Logprob drop server bytes fieldPosiblemente ocupada @vineoy la tomó hace 27 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
ollama/ollama-python#750 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
convert_function_to_tool exposes *args and **kwargs as required string parametersPosiblemente ocupada @aniketkrs la tomó hace 21 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
ollama/ollama-python#735 ·
Los mantenedores suelen responder en 1 día
Todos los issues de ollama/ollama-python
Issues similares
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 82/100
btclib-org/btclib-node#2083 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
Gathin23/cleanyourtv#2089 ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
jxxghp/MoviePilot#7212 ·
Los mantenedores suelen responder en 1 día
-
Web transport: small test gapsAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
Los mantenedores suelen responder en 1 día
-
cli dx rust
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
NekomyaDev/nudge#278 ·
Los mantenedores suelen responder en 1 día