Loading a model through the SDK does not use per model defaults
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 45/100
Direzione di ricerca
Inizia dal punto di ingresso dell’SDK Python lmstudio.llm() e segui come vengono selezionati i parametri di caricamento dei modelli. Confronta la gestione dei valori predefiniti personalizzati per modello con il comportamento di UI, CLI lms load e REST API v1 descritto nell’issue. Il lavoro è completo quando i modelli caricati tramite SDK usano i valori predefiniti per modello configurati, inclusi temperature e gli altri parametri.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Let’s take Qwen3 1.7B. The installed model default temp is 0.8.
I change the default temp to 0.6.
When I load the model in the UI, the temp is 0.8.
If I use the cli with lms load, the temp is 0.8.
If I use the REST API v1, the temp is 0.8
If I use the python sdk lmstudio.llm(), the temp is not 0.8, but back to 0.6.
The other params follow the same pattern - use my custom defaults when loaded everywhere except the python sdk.
The SDK should load using the per model custom defaults I set.
- Lingua principale
- Python
- Stelle
- 881
- Fork
- 166
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di lmstudio-ai/lmstudio-python
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100
lmstudio-ai/lmstudio-python#186 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 65/100
lmstudio-ai/lmstudio-python#184 ·
-
Reasoning parametersAperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
lmstudio-ai/lmstudio-python#183 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100
lmstudio-ai/lmstudio-python#182 · 1 reazione ·
-
error code: 502Aperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 32/100
lmstudio-ai/lmstudio-python#180 ·
Tutte le issue di lmstudio-ai/lmstudio-python
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
NousResearch/hermes-agent#140958 ·
I maintainer di solito rispondono entro 1 giorno
-
Bisect issue233186Apertabisect
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
dtcxzyw/llvm-bisect-service#548 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
sallowayma-git/IELTS-practice#248 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 65/100
anthropics/claude-plugins-official#6763 · 10 commenti · 10 reazioni ·
I maintainer di solito rispondono entro 3 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno