Issues du dépôt
lm-sys/FastChat
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
Issues
Ouverte
TensorRT-LLM backend support?
enhancementgood first issue
Aucune personne assignéeLabel adapté aux débutants
3 commentaires7 réactions0 personne assignée
Ouverte
Please support fastllm
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
2 commentaires0 réaction0 personne assignée
Ouverte
Support microsoft phi-1.5 model
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
4 commentaires0 réaction0 personne assignée
Ouverte
[Feature request] Support loading GGUF and GGML model format
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
5 commentaires7 réactions0 personne assignée
Ouverte
[Feature Request] Support InternLM Deploy
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
2 commentaires0 réaction0 personne assignée
Ouverte
Need to support Baichuan2
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
11 commentaires12 réactions0 personne assignée
Ouverte
Issues with VLLM Integration Speedup
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
4 commentaires0 réaction0 personne assignée
Ouverte
XVERSE-13B need support!
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
1 commentaire0 réaction0 personne assignée
Ouverte
[Feature] Do you have plan to support multimodal mode?
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
1 commentaire1 réaction0 personne assignée
Ouverte
[Feature Request] Add a ctranslate2 model worker
enhancementgood first issue
Pourquoi recommandéeLabel adapté aux débutants
Label adapté aux débutants
2 commentaires1 réaction1 personne assignée
Ouverte
Add model C1.2 from Character.ai?
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
3 commentaires0 réaction0 personne assignée
Ouverte
RWKV-raven and RWKV-world have different prompt template
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
3 commentaires0 réaction0 personne assignée
Ouverte
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
4 commentaires1 réaction0 personne assignée
Ouverte
presence_penalty and repetition_penalty in completions endpoint
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
1 commentaire0 réaction0 personne assignée
Ouverte
support for 4bit quantization from transfomer library.
enhancementgood first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
7 commentaires2 réactions0 personne assignée
Ouverte
tiiuae/falcon-7b does not work on Apple M1 GPU (MPS)
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
2 commentaires1 réaction0 personne assignée
Ouverte
Support fastchat-t5-3b-v1.0 on M2 GPU model
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
1 commentaire0 réaction0 personne assignée
Ouverte
Any plans to add AutoGPTQ as a gptq load option?
good first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
1 commentaire0 réaction0 personne assignée
Ouverte
Chat Arena version of fastchat-t5-3b-v1.0 provides more refined answers than standard Huggingface model.
documentationgood first issuequestion
Pourquoi recommandéeLabel adapté aux débutants
Label adapté aux débutants
26 commentaires3 réactions1 personne assignée
Ouverte
[BUG] RWKV Models are not configured to use Cuda GPU lists.
buggood first issue
Pourquoi recommandéeAucune personne assignée · Label adapté aux débutants
Aucune personne assignéeLabel adapté aux débutants
2 commentaires0 réaction0 personne assignée