ggml-org/ggml

ggml : implement a spellcheck model (xfspell, t5-spellchecker, etc)

Open

#233 ouverte le 6 juin 2023

Voir sur GitHub
 (12 commentaires) (10 réactions) (0 assignés)C++ (1 646 forks)auto 404
good first issuehelp wantedmodelroadmap

Métriques du dépôt

Stars
 (14 741 stars)
Métriques de merge PR
 (Merge moyen 33m) (12 PRs mergées en 30 j)

Description

Apple had recently announced a new transformer-based keyboard auto-correct and prediction.

xfspell seems to be an existing model that tried doing it, so why not investigate if it can be ported to GGML. If anyone know other models for predictive keyboard or auto correct, please drop your suggestions here.

Perhaps this may even be a good test case for on-device QLoRA fine-tuning.

High quality predictive keyboards and auto-correct in pure C++ can be a useful thing for open-source mobile operating systems like Ubuntu Touch and privacy-focused Android ROMs, because traditionally, such proposals got rejected because of excessive dependencies for ML inference.

Guide contributeur

Direction de recherche
Examinez l'architecture du modèle xfspell et les exemples GGML existants pour les modèles séquence à séquence. Commencez par implémenter un chemin d'inférence simple pour le modèle.
Stack technique
cpppython
Domaine
backendmachine learning
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
4
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-2 jours
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GitC++Python
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
45