ggml-org/ggml

ggml : implement a spellcheck model (xfspell, t5-spellchecker, etc)

Open

#233 aberto em 6 de jun. de 2023

Ver no GitHub
 (12 comments) (10 reactions) (0 assignees)C++ (1.646 forks)auto 404
good first issuehelp wantedmodelroadmap

Métricas do repositório

Stars
 (14.741 stars)
Métricas de merge de PR
 (Mesclagem média 33m) (12 fundiu PRs em 30d)

Description

Apple had recently announced a new transformer-based keyboard auto-correct and prediction.

xfspell seems to be an existing model that tried doing it, so why not investigate if it can be ported to GGML. If anyone know other models for predictive keyboard or auto correct, please drop your suggestions here.

Perhaps this may even be a good test case for on-device QLoRA fine-tuning.

High quality predictive keyboards and auto-correct in pure C++ can be a useful thing for open-source mobile operating systems like Ubuntu Touch and privacy-focused Android ROMs, because traditionally, such proposals got rejected because of excessive dependencies for ML inference.

Guia do colaborador

Direção de pesquisa
Revise a arquitetura do modelo xfspell e os exemplos GGML existentes para modelos sequência sequência. Comece implementando um caminho de inferência simples para o modelo.
Pilha de tecnologia
cpppython
Domain
backendmachine learning
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
4
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
GitC++Python
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
45