ggml-org/ggml

ggml : implement a spellcheck model (xfspell, t5-spellchecker, etc)

Open

#233 geöffnet am 6. Juni 2023

Auf GitHub ansehen
 (12 Kommentare) (10 Reaktionen) (0 zugewiesene Personen)C++ (1.646 Forks)auto 404
good first issuehelp wantedmodelroadmap

Repository-Metriken

Stars
 (14.741 Stars)
PR-Merge-Metriken
 (Durchschn. Merge 33m) (12 gemergte PRs in 30 T)

Beschreibung

Apple had recently announced a new transformer-based keyboard auto-correct and prediction.

xfspell seems to be an existing model that tried doing it, so why not investigate if it can be ported to GGML. If anyone know other models for predictive keyboard or auto correct, please drop your suggestions here.

Perhaps this may even be a good test case for on-device QLoRA fine-tuning.

High quality predictive keyboards and auto-correct in pure C++ can be a useful thing for open-source mobile operating systems like Ubuntu Touch and privacy-focused Android ROMs, because traditionally, such proposals got rejected because of excessive dependencies for ML inference.

Contributor Guide

Research-Richtung
Überprüfe die xfspell Modellarchitektur und vorhandene GGML Beispiele für Sequenz zu Sequenz Modelle. Beginne mit der Implementierung eines einfachen Inferenzpfads für das Modell.
Tech Stack
cpppython
Domain
backendmachine learning
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
4
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
GitC++Python
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
45