ggml-org/llama.cpp

Test replit-code-v1-3b model

Aberta

#1.299 aberto em 3 de mai. de 2023

Ver no GitHubGuia do colaborador
 (7 comentários) (0 reação) (0 responsável)C++ (21.918 forks)batch import
help wantedmodel

Métricas do repositório

Stars
 (124.747 estrelas)
Métricas de merge de PR
 (Mesclagem média 6d 8h) (389 fundiu PRs em 30d)

Description

Replit recently trained a 3B parameter Llama-style code model with some very promising results. Weights have been released here

Guia do colaborador

Direção de pesquisa
Examine como modelos existentes como CodeLlama são carregados no llama.cpp. Entenda a arquitetura do modelo replit code v1-3b e adapte o carregamento de pesos e o código de inferência de acordo.
Pilha de tecnologia
cpp
Domain
backend
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
GitC++
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
50