lm-sys/FastChat Issues | Good First Issue

Python (38.959 Stars) (4.736 Forks) (30 indexierte Issues) (PR-Metriken ausstehend)Letzter Commit 2. Juni 2025

Issues

30 offene indexierte Issues

RSS Atom

Offen

TensorRT-LLM backend support?

enhancementgood first issue

lm-sys/FastChat #2.595 21. Okt. 2023 geöffnet · Python · 38.959 Stars

3 Kommentare7 Reaktionen0 zugewiesene Personen

Offen

Please support fastllm

good first issue

lm-sys/FastChat #2.521 6. Okt. 2023 geöffnet · Python · 38.959 Stars

2 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

Support microsoft phi-1.5 model

good first issue

lm-sys/FastChat #2.435 18. Sept. 2023 geöffnet · Python · 38.959 Stars

4 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

[Feature request] Support loading GGUF and GGML model format

good first issue

lm-sys/FastChat #2.410 13. Sept. 2023 geöffnet · Python · 38.959 Stars

5 Kommentare7 Reaktionen0 zugewiesene Personen

Offen

[Feature Request] Support InternLM Deploy

good first issue

lm-sys/FastChat #2.403 12. Sept. 2023 geöffnet · Python · 38.959 Stars

2 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

Need to support Baichuan2

good first issue

lm-sys/FastChat #2.377 6. Sept. 2023 geöffnet · Python · 38.959 Stars

11 Kommentare12 Reaktionen0 zugewiesene Personen

Offen

Issues with VLLM Integration Speedup

good first issue

lm-sys/FastChat #2.362 5. Sept. 2023 geöffnet · Python · 38.959 Stars

4 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

XVERSE-13B need support!

good first issue

lm-sys/FastChat #2.300 24. Aug. 2023 geöffnet · Python · 38.959 Stars

1 Kommentar0 Reaktionen0 zugewiesene Personen

Offen

[Feature] Do you have plan to support multimodal mode?

good first issue

lm-sys/FastChat #2.216 14. Aug. 2023 geöffnet · Python · 38.959 Stars

1 Kommentar1 Reaktion0 zugewiesene Personen

Offen

[Feature Request] Add a ctranslate2 model worker

enhancementgood first issue

lm-sys/FastChat #2.133 1. Aug. 2023 geöffnet · Python · 38.959 Stars

2 Kommentare1 Reaktion1 zugewiesene Person

Offen

Add model C1.2 from Character.ai?

good first issue

lm-sys/FastChat #2.035 20. Juli 2023 geöffnet · Python · 38.959 Stars

3 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

RWKV-raven and RWKV-world have different prompt template

good first issue

lm-sys/FastChat #1.929 13. Juli 2023 geöffnet · Python · 38.959 Stars

3 Kommentare0 Reaktionen0 zugewiesene Personen

Offen

Support for htttps protocol call between controller node and worker node

good first issue

lm-sys/FastChat #1.915 10. Juli 2023 geöffnet · Python · 38.959 Stars

4 Kommentare1 Reaktion0 zugewiesene Personen

Offen

presence_penalty and repetition_penalty in completions endpoint

good first issue

lm-sys/FastChat #1.914 10. Juli 2023 geöffnet · Python · 38.959 Stars

1 Kommentar0 Reaktionen0 zugewiesene Personen

Offen

support for 4bit quantization from transfomer library.

enhancementgood first issue

lm-sys/FastChat #1.798 27. Juni 2023 geöffnet · Python · 38.959 Stars

7 Kommentare2 Reaktionen0 zugewiesene Personen

Offen

tiiuae/falcon-7b does not work on Apple M1 GPU (MPS)

good first issue

lm-sys/FastChat #1.746 20. Juni 2023 geöffnet · Python · 38.959 Stars

2 Kommentare1 Reaktion0 zugewiesene Personen

Offen

Support fastchat-t5-3b-v1.0 on M2 GPU model

good first issue

lm-sys/FastChat #1.744 20. Juni 2023 geöffnet · Python · 38.959 Stars

1 Kommentar0 Reaktionen0 zugewiesene Personen

Offen

Any plans to add AutoGPTQ as a gptq load option?

good first issue

lm-sys/FastChat #1.671 12. Juni 2023 geöffnet · Python · 38.959 Stars

1 Kommentar0 Reaktionen0 zugewiesene Personen

Offen

Chat Arena version of fastchat-t5-3b-v1.0 provides more refined answers than standard Huggingface model.

documentationgood first issuequestion

lm-sys/FastChat #1.264 15. Mai 2023 geöffnet · Python · 38.959 Stars

26 Kommentare3 Reaktionen1 zugewiesene Person

Offen

[BUG] RWKV Models are not configured to use Cuda GPU lists.

buggood first issue

lm-sys/FastChat #1.248 15. Mai 2023 geöffnet · Python · 38.959 Stars

2 Kommentare0 Reaktionen0 zugewiesene Personen