倉庫議題
lm-sys/FastChat
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
議題
開放
TensorRT-LLM backend support?
enhancementgood first issue
尚無負責人帶有初學者友善標籤
3 則留言7 個反應0 位負責人
開放
Please support fastllm
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言0 個反應0 位負責人
開放
Support microsoft phi-1.5 model
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
4 則留言0 個反應0 位負責人
開放
[Feature request] Support loading GGUF and GGML model format
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
5 則留言7 個反應0 位負責人
開放
[Feature Request] Support InternLM Deploy
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言0 個反應0 位負責人
開放
Need to support Baichuan2
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
11 則留言12 個反應0 位負責人
開放
Issues with VLLM Integration Speedup
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
4 則留言0 個反應0 位負責人
開放
XVERSE-13B need support!
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言0 個反應0 位負責人
開放
[Feature] Do you have plan to support multimodal mode?
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言1 個反應0 位負責人
開放
[Feature Request] Add a ctranslate2 model worker
enhancementgood first issue
為什麼推薦帶有初學者友善標籤
帶有初學者友善標籤
2 則留言1 個反應1 位負責人
開放
Add model C1.2 from Character.ai?
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
3 則留言0 個反應0 位負責人
開放
RWKV-raven and RWKV-world have different prompt template
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
3 則留言0 個反應0 位負責人
開放
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
4 則留言1 個反應0 位負責人
開放
presence_penalty and repetition_penalty in completions endpoint
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言0 個反應0 位負責人
開放
support for 4bit quantization from transfomer library.
enhancementgood first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
7 則留言2 個反應0 位負責人
開放
tiiuae/falcon-7b does not work on Apple M1 GPU (MPS)
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言1 個反應0 位負責人
開放
Support fastchat-t5-3b-v1.0 on M2 GPU model
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言0 個反應0 位負責人
開放
Any plans to add AutoGPTQ as a gptq load option?
good first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言0 個反應0 位負責人
開放
Chat Arena version of fastchat-t5-3b-v1.0 provides more refined answers than standard Huggingface model.
documentationgood first issuequestion
為什麼推薦帶有初學者友善標籤
帶有初學者友善標籤
26 則留言3 個反應1 位負責人
開放
[BUG] RWKV Models are not configured to use Cuda GPU lists.
buggood first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言0 個反應0 位負責人