Build 1-gram / 2-gram / 3-gram tables
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- python
- Ambito
- machine-learning
Direzione di ricerca
Non sono indicati file sorgente o test. Inizia individuando come i dati di addestramento entrano nel progetto Python, quindi usa il formato della tabella indicato e verifica la serializzazione, la documentazione dell’occupazione di memoria e il benchmark del tempo di ricerca rispetto ai criteri di successo.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Summary
Build n-gram frequency tables from the training data for lookup-based generation.
Success Criteria
- 1-gram table: token → count
- 2-gram table: (token₁) → [(token₂, count), ...]
- 3-gram table: (token₁, token₂) → [(token₃, count), ...]
- Tables serialized efficiently (consider trie structure)
- Memory footprint documented
- Lookup time benchmarked (<1μs per lookup target)
Implementation Notes
- Consider smoothing for unseen n-grams
- Store both raw counts and probabilities
- Prune low-frequency entries to control size
Table Format
```python
{
"unigram": {"feat": 15000, "fix": 12000, ...},
"bigram": {"feat": {"add": 5000, "implement": 3000, ...}, ...},
"trigram": {("feat", "add"): {"new": 2000, "support": 1500, ...}, ...}
}
```
- Lingua principale
- Python
- Stelle
- 0
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di aRustyDev/ccgram
-
docs experiment
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
Write usage documentation Apertadocs
Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100
-
Freeze architecture Apertainfra model
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
-
Document findings Apertadocs experiment
Difficoltà 3/5 3-5 giorni Idoneità per principianti 45/100
-
ablation evaluation
Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100
Tutte le issue di aRustyDev/ccgram
Issue simili
-
bug confirmed issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
open-webui/open-webui#30750 · 1 commento ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
enhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
OpenwaterHealth/openmotion-bloodflow-app#604 · 1 commento ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
-
good first issue
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100