lm-sys/FastChat

RWKV-raven and RWKV-world have different prompt template

Open

#1 929 ouverte le 13 juil. 2023

Voir sur GitHub
 (3 commentaires) (0 réactions) (0 assignés)Python (38 959 stars) (4 736 forks)batch import
good first issue

Description

Now RWKV-4 World is released, but I find RWKV-world use new prompt template, no longer use Bob/Alice or Q/A, this is completely different from RWKV-raven, so can you support the new template?

Guide contributeur

Stack technique
python
Domaine
machine learningai
Type d'issue
feature
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 hours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
fresh
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
mostly clear
Prérequis
PythonFastChatRWKV model
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
40
Direction de recherche
Investigate the current prompt template implementation in FastChat for RWKV raven (likely in the model adapter files). Compare with the RWKV world prompt template from Hugging Face. Modify the model adapter to support the new template without breaking existing functionality. Test with a sample prompt.