Loading a model through the SDK does not use per model defaults
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Aptitud para principiantes
- 45/100
Línea de trabajo
Comienza en el punto de entrada del SDK de Python lmstudio.llm() y sigue cómo se seleccionan los parámetros de carga de modelos. Compara su gestión de los valores predeterminados personalizados por modelo con el comportamiento de la UI, la CLI lms load y la REST API v1 descrito en el issue. Se considera terminado cuando los modelos cargados mediante el SDK usan los valores predeterminados por modelo configurados, incluidos temperature y los demás parámetros.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Let’s take Qwen3 1.7B. The installed model default temp is 0.8.
I change the default temp to 0.6.
When I load the model in the UI, the temp is 0.8.
If I use the cli with lms load, the temp is 0.8.
If I use the REST API v1, the temp is 0.8
If I use the python sdk lmstudio.llm(), the temp is not 0.8, but back to 0.6.
The other params follow the same pattern - use my custom defaults when loaded everywhere except the python sdk.
The SDK should load using the per model custom defaults I set.
- Lenguaje dominante
- Python
- Estrellas
- 885
- Forks
- 168
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Sin plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de lmstudio-ai/lmstudio-python
-
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
lmstudio-ai/lmstudio-python#186 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 65/100
lmstudio-ai/lmstudio-python#184 · 1 comentario · 1 reacción ·
-
Reasoning parametersAbierto
Dificultad 3/5 1-2 días Aptitud para principiantes 45/100
lmstudio-ai/lmstudio-python#183 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 48/100
lmstudio-ai/lmstudio-python#182 · 1 reacción ·
-
error code: 502Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 32/100
lmstudio-ai/lmstudio-python#180 ·
Todos los issues de lmstudio-ai/lmstudio-python
Issues similares
-
[Resource]: LoreAbiertoresource-submission validation-passed
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
hesreallyhim/awesome-claude-code#3234 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
openminion/openminion#376 ·
Los mantenedores suelen responder en 1 día
-
Type: ☹︎ Bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
posit-dev/great-tables#1028 ·
Los mantenedores suelen responder en 1 día
-
integration: apple_tv
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
home-assistant/core#188282 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
A "since" range is worded as a career: "the past two seasons" says "regular season career (2025 on)"AbiertoP4: low
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
jeffknupp/association#538 ·