Issues do repositório
lm-sys/FastChat
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
Issues
Aberta
TensorRT-LLM backend support?
enhancementgood first issue
3 comentários7 reações0 responsáveis
Aberta
Please support fastllm
good first issue
2 comentários0 reações0 responsáveis
Aberta
Support microsoft phi-1.5 model
good first issue
4 comentários0 reações0 responsáveis
Aberta
[Feature request] Support loading GGUF and GGML model format
good first issue
5 comentários7 reações0 responsáveis
Aberta
[Feature Request] Support InternLM Deploy
good first issue
2 comentários0 reações0 responsáveis
Aberta
Need to support Baichuan2
good first issue
11 comentários12 reações0 responsáveis
Aberta
Issues with VLLM Integration Speedup
good first issue
4 comentários0 reações0 responsáveis
Aberta
XVERSE-13B need support!
good first issue
1 comentário0 reações0 responsáveis
Aberta
[Feature] Do you have plan to support multimodal mode?
good first issue
1 comentário1 reação0 responsáveis
Aberta
[Feature Request] Add a ctranslate2 model worker
enhancementgood first issue
2 comentários1 reação1 responsável
Aberta
Add model C1.2 from Character.ai?
good first issue
3 comentários0 reações0 responsáveis
Aberta
RWKV-raven and RWKV-world have different prompt template
good first issue
3 comentários0 reações0 responsáveis
Aberta
4 comentários1 reação0 responsáveis
Aberta
presence_penalty and repetition_penalty in completions endpoint
good first issue
1 comentário0 reações0 responsáveis
Aberta
support for 4bit quantization from transfomer library.
enhancementgood first issue
7 comentários2 reações0 responsáveis
Aberta
tiiuae/falcon-7b does not work on Apple M1 GPU (MPS)
good first issue
2 comentários1 reação0 responsáveis
Aberta
Support fastchat-t5-3b-v1.0 on M2 GPU model
good first issue
1 comentário0 reações0 responsáveis
Aberta
Any plans to add AutoGPTQ as a gptq load option?
good first issue
1 comentário0 reações0 responsáveis
Aberta
Chat Arena version of fastchat-t5-3b-v1.0 provides more refined answers than standard Huggingface model.
documentationgood first issuequestion
26 comentários3 reações1 responsável
Aberta
[BUG] RWKV Models are not configured to use Cuda GPU lists.
buggood first issue
2 comentários0 reações0 responsáveis