Implement tiny neural fallback model
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Da chiarire
- Stato di attività
- Ferma
- Stack tecnologico
- python
- Ambito
- machine-learning
Direzione di ricerca
Non vengono indicati file o test. Parti dall’interfaccia NeuralFallback.generate proposta e dal percorso di ricerca n-gram esistente, quindi definisci l’architettura e l’approccio di training. Il lavoro è completato quando sono disponibili un modello condizionato, un workflow di training e checkpointing ripristinabile e un’inferenza su CPU che rispetti i limiti di dimensione e latenza indicati.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Summary
Implement a small neural language model to handle cases where n-gram lookup has low confidence.
Success Criteria
- Model architecture chosen (e.g., small transformer, LSTM)
- Model size < 50MB (target: runs on CPU efficiently)
- Inference time < 100ms on CPU
- Model can be conditioned on partial context
- Training script implemented
- Checkpointing and resumption supported
Architecture Candidates
- Tiny Transformer: 2-4 layers, 128-256 hidden, ~5M params
- LSTM: 2 layers, 256 hidden, ~3M params
- Distilled from larger model: Knowledge distillation approach
Constraints
- Must run locally on CPU
- Must fit in memory alongside n-gram tables
- Latency acceptable for interactive use
Interface
```python
class NeuralFallback:
def generate(self, context: list[str], max_tokens: int = 50) -> str:
"""Generate continuation given context."""
...
```
- Lingua principale
- Python
- Stelle
- 0
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di aRustyDev/ccgram
-
docs experiment
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
Write usage documentation Apertadocs
Difficoltà 4/5 3-5 giorni Idoneità per principianti 55/100
-
Freeze architecture Apertainfra model
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
-
Document findings Apertadocs experiment
Difficoltà 3/5 3-5 giorni Idoneità per principianti 45/100
-
ablation evaluation
Difficoltà 4/5 3-5 giorni Idoneità per principianti 30/100
Tutte le issue di aRustyDev/ccgram
Issue simili
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 75/100
-
hcocena Apertapolicies-accepted pre-review precheck-passed
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 88/100
Bioconductor/BiocContributions#214 · 5 commenti ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 92/100
TencentCloud/Octop#1169 · 1 commento ·
-
[开源推荐] 在老板拷问你之前,先让 AI 灵魂拷问你 Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
521xueweihan/HelloGitHub#3778 ·
-
The version checker's trailing attribute region has no control for a less-than inside a quoted value Apertaarea: dashboard area: tests bug perceived difficulty: 2 python
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
Nitjsefnie-Harness-Commons/daedalus#1105 · 1 commento ·