Improve behaviour when API host is given as a full URL
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 38/100
Direzione di ricerca
Inizia da configure_default_client e traccia come viene analizzato l’host fornito prima dell’esecuzione di lms.list_downloaded_models. Riproduci gli esempi usando URL HTTP e WebSocket, inclusi i percorsi, e considera completata la issue quando gli input costituiti da URL completi si connettono in modo coerente o producono il comportamento normalizzato previsto.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
I have LM Studio 0.3.24 (GUI) running on another Windows 11 computer on my local network. It works just fine when I send OpenAI requests, but it fails when I use this library.
Here are some tests results:
Sending OpenAI request to `http://192.168.3.220:1234/v1`...
SUCCESS
----------------------------------------
Sending LM Studio request to `http://192.168.3.220:1234`...
LM Studio is not reachable at http://192.168.3.220:1234. Is LM Studio running?
FAILED
----------------------------------------
Sending LM Studio request to `http://192.168.3.220:1234/llm`...
LM Studio is not reachable at http://192.168.3.220:1234/llm. Is LM Studio running?
FAILED
----------------------------------------
Sending LM Studio request to `ws://192.168.3.220:1234`...
LM Studio is not reachable at ws://192.168.3.220:1234. Is LM Studio running?
FAILED
----------------------------------------
Sending LM Studio request to `ws://192.168.3.220:1234/llm`...
LM Studio is not reachable at ws://192.168.3.220:1234/llm. Is LM Studio running?
FAILED
----------------------------------------
Current Python version: 3.13.7
----------------------------------------
Pip show output:
Name: lmstudio
Version: 1.5.0
Summary: LM Studio Python SDK
Home-page: https://github.com/lmstudio-ai/lmstudio-sdk-python
Author:
Author-email: LM Studio <[email protected]>
License-Expression: MIT
Location: /home/vlad/Documents/Apps/lmstudio_test/venv/lib/python3.13/site-packages
Requires: anyio, httpx, httpx-ws, msgspec, typing-extensions
Required-by:
----------------------------------------
Code that gives the output above
import lmstudio as lms
from openai import OpenAI
import subprocess
import sys
import platform
OPENAI_BASE_URL = "http://192.168.3.220:1234/v1"
HTTP_URL = "http://192.168.3.220:1234"
HTTP_URL_WITH_LLM_PATH = "http://192.168.3.220:1234/llm"
WS_URL = "ws://192.168.3.220:1234"
WS_URL_WITH_LLM_PATH = "ws://192.168.3.220:1234/llm"
def main():
try:
print(f"Sending OpenAI request to `{OPENAI_BASE_URL}`...")
OpenAI(base_url=OPENAI_BASE_URL, api_key="dummy").models.list()
print("SUCCESS")
except Exception as e:
print(e)
print("FAILED")
print('-' * 40)
try:
print(f"Sending LM Studio request to `{HTTP_URL}`...")
lms.configure_default_client(HTTP_URL)
lms.list_downloaded_models()
print("SUCCESS")
except Exception as e:
print(e)
print("FAILED")
finally:
lms.sync_api._reset_default_client()
print('-' * 40)
try:
print(f"Sending LM Studio request to `{HTTP_URL_WITH_LLM_PATH}`...")
lms.configure_default_client(HTTP_URL_WITH_LLM_PATH)
lms.list_downloaded_models()
print("SUCCESS")
except Exception as e:
print(e)
print("FAILED")
finally:
lms.sync_api._reset_default_client()
print('-' * 40)
try:
print(f"Sending LM Studio request to `{WS_URL}`...")
lms.configure_default_client(WS_URL)
lms.list_downloaded_models()
print("SUCCESS")
except Exception as e:
print(e)
print("FAILED")
finally:
lms.sync_api._reset_default_client()
print('-' * 40)
try:
print(f"Sending LM Studio request to `{WS_URL_WITH_LLM_PATH}`...")
lms.configure_default_client(WS_URL_WITH_LLM_PATH)
lms.list_downloaded_models()
print("SUCCESS")
except Exception as e:
print(e)
print("FAILED")
finally:
lms.sync_api._reset_default_client()
print('-' * 40)
print(f"Current Python version: {platform.python_version()}\n")
print('-' * 40)
print("Pip show output:\n")
subprocess.run([sys.executable, "-m", "pip", "show", "lmstudio"])
print('-' * 40)
if __name__ == "__main__":
main()
- Lingua principale
- Python
- Stelle
- 885
- Fork
- 168
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di lmstudio-ai/lmstudio-python
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100
lmstudio-ai/lmstudio-python#186 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 65/100
lmstudio-ai/lmstudio-python#184 ·
-
Reasoning parametersAperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
lmstudio-ai/lmstudio-python#183 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100
lmstudio-ai/lmstudio-python#182 · 1 reazione ·
-
error code: 502Aperta
Difficoltà 4/5 3-5 giorni Idoneità per principianti 32/100
lmstudio-ai/lmstudio-python#180 ·
Tutte le issue di lmstudio-ai/lmstudio-python
Issue simili
-
infrastructure
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
khuisman/mcp-gee-sweet#1152 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
-
backroom bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
ditto-assistant/ditto-subnet#3069 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
open-webui/open-webui#32901 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
0.3.3 bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno