lm-sys/FastChat

XVERSE-13B need support!

Open

#2 300 ouverte le 24 août 2023

Voir sur GitHub
 (1 commentaire) (0 réactions) (0 assignés)Python (38 959 stars) (4 736 forks)batch import
good first issue

Description

looks like this: https://github.com/xverse-ai/XVERSE-13B/blob/main/README_EN.md

I think it's good than other 13b,so,hope support!

Guide contributeur

Stack technique
pythonpytorch
Domaine
backendmachine learningai
Type d'issue
feature
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 days
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
unclear
Prérequis
PythonPyTorchFamiliarity with FastChatUnderstanding of transformer models
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
30
Direction de recherche
First, review the XVERSE 13B model architecture from the provided link. Then, examine existing model integrations in FastChat (e.g., in fastchat/model/model adapter.py and fastchat/conversation.py) to understand the pattern for adding new models. You may need to create a new model adapter and register it. Finally, test the integration locally with a small sample.