lm-sys/FastChat

RWKV-raven and RWKV-world have different prompt template

Aperta

#1929 aperta il 13 lug 2023

Vedi su GitHub
 (3 commenti) (0 reazioni) (0 assegnatari)Python (4736 fork)batch import
good first issue

Metriche repository

Star
 (38.959 stelle)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

Now RWKV-4 World is released, but I find RWKV-world use new prompt template, no longer use Bob/Alice or Q/A, this is completely different from RWKV-raven, so can you support the new template?

Guida contributor

Direzione di ricerca
Indagare l'implementazione corrente del template di prompt in FastChat per RWKV raven (probabilmente nei file dell'adattatore del modello). Confrontare con il template di prompt RWKV world di Hugging Face. Modificare l'adattatore del modello per supportare il nuovo template senza compromettere le funzionalità esistenti. Testare con un prompt di esempio.
Tech stack
python
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
GitPython
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
70