lm-sys/FastChat

Can it support multi-gpu int-8 quantization?

オープン

#1,074 opened on 2023/05/09

 (2 件のコメント) (0 件のリアクション) (0 人の担当者)Python (4,736 件のフォーク)batch import
buggood first issue

Repository metrics

Stars
 (38,959 個のスター)
PR merge metrics
 (30d に merged PR はありません)

説明

コントリビューターガイド