Issue del repository
lm-sys/FastChat
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
Issue
Aperta
TensorRT-LLM backend support?
enhancementgood first issue
Nessun assegnatarioHa una label adatta ai principianti
3 commenti7 reazioni0 assegnatari
Aperta
Please support fastllm
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti0 reazioni0 assegnatari
Aperta
Support microsoft phi-1.5 model
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
4 commenti0 reazioni0 assegnatari
Aperta
[Feature request] Support loading GGUF and GGML model format
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
5 commenti7 reazioni0 assegnatari
Aperta
[Feature Request] Support InternLM Deploy
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti0 reazioni0 assegnatari
Aperta
Need to support Baichuan2
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
11 commenti12 reazioni0 assegnatari
Aperta
Issues with VLLM Integration Speedup
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
4 commenti0 reazioni0 assegnatari
Aperta
XVERSE-13B need support!
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento0 reazioni0 assegnatari
Aperta
[Feature] Do you have plan to support multimodal mode?
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento1 reazione0 assegnatari
Aperta
[Feature Request] Add a ctranslate2 model worker
enhancementgood first issue
Perché consigliataHa una label adatta ai principianti
Ha una label adatta ai principianti
2 commenti1 reazione1 assegnatario
Aperta
Add model C1.2 from Character.ai?
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
3 commenti0 reazioni0 assegnatari
Aperta
RWKV-raven and RWKV-world have different prompt template
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
3 commenti0 reazioni0 assegnatari
Aperta
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
4 commenti1 reazione0 assegnatari
Aperta
presence_penalty and repetition_penalty in completions endpoint
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento0 reazioni0 assegnatari
Aperta
support for 4bit quantization from transfomer library.
enhancementgood first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
7 commenti2 reazioni0 assegnatari
Aperta
tiiuae/falcon-7b does not work on Apple M1 GPU (MPS)
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti1 reazione0 assegnatari
Aperta
Support fastchat-t5-3b-v1.0 on M2 GPU model
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento0 reazioni0 assegnatari
Aperta
Any plans to add AutoGPTQ as a gptq load option?
good first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento0 reazioni0 assegnatari
Aperta
Chat Arena version of fastchat-t5-3b-v1.0 provides more refined answers than standard Huggingface model.
documentationgood first issuequestion
Perché consigliataHa una label adatta ai principianti
Ha una label adatta ai principianti
26 commenti3 reazioni1 assegnatario
Aperta
[BUG] RWKV Models are not configured to use Cuda GPU lists.
buggood first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti0 reazioni0 assegnatari