lm-sys/FastChat

Can it support multi-gpu int-8 quantization?

Open

#1.074 geöffnet am 9. Mai 2023

Auf GitHub ansehen
 (2 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (4.736 Forks)batch import
buggood first issue

Repository-Metriken

Stars
 (38.959 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

Contributor Guide