lm-sys/FastChat

Can it support multi-gpu int-8 quantization?

Open

#1,074 opened on 2023年5月9日

GitHub で見る
 (2 comments) (0 reactions) (0 assignees)Python (4,736 forks)batch import
buggood first issue

Repository metrics

Stars
 (38,959 stars)
PR merge metrics
 (30d に merged PR はありません)

説明

コントリビューターガイド