ggml-org/llama.cpp

Test replit-code-v1-3b model

Aperta

#1299 aperta il 3 mag 2023

Vedi su GitHubGuida contributor
 (7 commenti) (0 reazioni) (0 assegnatari)C++ (21.737 fork)batch import
help wantedmodel

Metriche repository

Star
 (124.043 stelle)
Metriche merge PR
 (Merge medio 6g 8h) (389 PR mergiate in 30 g)

Descrizione

Replit recently trained a 3B parameter Llama-style code model with some very promising results. Weights have been released here

Guida contributor

Direzione di ricerca
Esamina come i modelli esistenti come CodeLlama vengono caricati in llama.cpp. Comprendi l'architettura del modello replit code v1-3b e adatta il caricamento dei pesi e il codice di inferenza di conseguenza.
Tech stack
cpp
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
GitC++
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
50