lm-sys/FastChat

Please support fastllm

Open

#2521 aperta il 6 ott 2023

Vedi su GitHub
 (2 commenti) (0 reazioni) (0 assegnatari)Python (4736 fork)batch import
good first issue

Metriche repository

Star
 (38.959 star)
Metriche merge PR
 (Nessuna PR mergiata in 30 g)

Descrizione

Can you please add support for https://github.com/ztxz16/fastllm?

Guida contributor

Direzione di ricerca
Esplora il repository fastllm per comprendere la sua API e il formato del modello, quindi implementa un nuovo worker del modello in FastChat che si integri con fastllm, facendo riferimento alle integrazioni di modelli esistenti.
Tech stack
python
Dominio
aibackend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
3-5 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonGit
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
65