ggml-org/llama.cpp

Test replit-code-v1-3b model

Ouverte

#1 299 ouverte le 3 mai 2023

Voir sur GitHubGuide contributeur
 (7 commentaires) (0 réaction) (0 personne assignée)C++ (21 918 forks)batch import
help wantedmodel

Métriques du dépôt

Stars
 (124 747 étoiles)
Métriques de merge PR
 (Merge moyen 6j 8h) (389 PRs mergées en 30 j)

Description

Replit recently trained a 3B parameter Llama-style code model with some very promising results. Weights have been released here

Guide contributeur

Direction de recherche
Examinez comment les modèles existants comme CodeLlama sont chargés dans llama.cpp. Comprenez l'architecture du modèle replit code v1-3b et adaptez le chargement des poids et le code d'inférence en conséquence.
Stack technique
cpp
Domaine
backend
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GitC++
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
50