Can not make access with local llm
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 25/100
Direzione di ricerca
Inizia da model_config.py e fastchat.md per confrontare la configurazione locale di ChatGLM con la configurazione riportata. Verifica perché la connessione al servizio locale non produce voci in llm_api.log o sdfile_api.log. Il lavoro è completato quando l’LLM locale si connette correttamente e i log delle API pertinenti registrano la richiesta.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Checked other resources
- I searched the Codefuse documentation with the integrated search.
- I used the GitHub search to find a similar question and didn't find it.
- I am sure that this is a bug in Codefuse-Repos rather than my code.
- I added a very descriptive title to this issue.
System Info
Windows
Code Version
Latest Release
Description
i already changed VLLM_MODEL_DICT in model_config.py and downloaded chatglm-6b in llm_models folder. Docker image has some dependencies error, so i used local services. Even though i modified the code as wrote in fastchat.md but i can not connect with local llm, also do not record a log at llm_api.log and sdfile_api.log .
Example Code
#thats how i changed VLLM_MODEL_DICT
VLLM_MODEL_DICT = VLLM_MODEL_DICT or {
'chatglm2-6b': "chatglm-6b",
}
Error Message and Stack Trace (if applicable)
No response
- Lingua principale
- Python
- Stelle
- 1.3k
- Fork
- 148
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Include un Dockerfile o un file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di codefuse-ai/codefuse-chatbot
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
加群的二维码过期了，辛苦更新一下Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 35/100
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100
codefuse-ai/codefuse-chatbot#57 · 2 commenti ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 15/100
codefuse-ai/codefuse-chatbot#54 · 2 commenti ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 30/100
Tutte le issue di codefuse-ai/codefuse-chatbot
Issue simili
-
intake mcp-intake needs-ac needs-human-review priority:medium
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
Ikalus1988/MisakaNet#3848 · 2 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 75/100
521xueweihan/HelloGitHub#4105 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
igormcsouza/bookloud#54 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
aws-samples/sample-per-model-bedrock#526 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
ok-oldking/ok-wuthering-waves#1802 ·
I maintainer di solito rispondono entro 2 giorni