Issues du dépôt

kyegomez/attn_res

A clean, single-file PyTorch implementation of Attention Residuals (Kimi Team, MoonshotAI, 2026), integrated with Grouped Query Attention (GQA), SwiGLU feed-forward networks, and Rotary Position Embeddings (RoPE).

Voir sur GitHub
Stars
 (39 étoiles)
Forks
 (3 forks)
Issues indexées
 (0 issue indexée)
issues débutant ouvertes
 (0 issue débutant ouverte)
Dernière indexation
10 août 2026
Dernier push GitHub
16 mars 2026
Licence
Apache License 2.0
Guide de contribution
Aucun guide de contribution
Code de conduite
Aucun code de conduite
Langage principal
Python
Métriques de merge PR
 (Aucune PR mergée en 30 j)
Labels débutant
Aucun label débutant indexé

Issues

0 issue indexée fermée

Aucune issue indexée fermée trouvée pour ce dépôt.