Propriétaire
Anbeeld
1 dépôt indexé · Voir sur GitHub
-
beellama.cpp
KVarN, KV cache precision tail, low-bit quants in llama.cpp for longer context of better precision in the same VRAM
C++ · 1177 étoiles
Les issues sur lesquelles quelqu’un travaille peut-être déjà sont listées en dernier. Tout trier par date
-
Difficulté 3/5 Une demi-journée Accessibilité débutants 58/100
Anbeeld/beellama.cpp#206 ·
-
[BUG] KVarN assertion failure in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rotOuverte
Difficulté 2/5 1-3 heures Accessibilité débutants 68/100
Anbeeld/beellama.cpp#205 ·
-
Difficulté 3/5 1-2 jours Accessibilité débutants 57/100
Anbeeld/beellama.cpp#204 ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 45/100
Anbeeld/beellama.cpp#203 · 2 commentaires ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 45/100
Anbeeld/beellama.cpp#202 · 1 commentaire ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 48/100
Anbeeld/beellama.cpp#200 ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 35/100
Anbeeld/beellama.cpp#199 ·
-
Misc. bug: chat request failes.Ouverte
Difficulté 3/5 1-2 jours Accessibilité débutants 35/100
Anbeeld/beellama.cpp#198 ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 18/100
Anbeeld/beellama.cpp#195 ·
-
enhancement
Difficulté 2/5 1-3 heures Accessibilité débutants 35/100
Anbeeld/beellama.cpp#194 ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 8/100
Anbeeld/beellama.cpp#192 · 27 commentaires ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 40/100
Anbeeld/beellama.cpp#190 ·
-
[BUG] llama-perplexity crashes with CUDA illegal instruction on RTX 3090 (--kl-divergence, -fit on)Ouverte
Difficulté 4/5 3-5 jours Accessibilité débutants 25/100
Anbeeld/beellama.cpp#187 · 1 commentaire ·
-
enhancement
Difficulté 4/5 3-5 jours Accessibilité débutants 25/100
Anbeeld/beellama.cpp#183 · 3 commentaires ·
-
enhancement
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 20/100
Anbeeld/beellama.cpp#179 · 2 commentaires ·
-
enhancement
Difficulté 4/5 3-5 jours Accessibilité débutants 28/100
Anbeeld/beellama.cpp#173 ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 12/100
Anbeeld/beellama.cpp#163 · 1 réaction ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 22/100
Anbeeld/beellama.cpp#157 · 4 commentaires ·
-
Unoptimized BuildOuverte
Difficulté 4/5 3-5 jours Accessibilité débutants 30/100
Anbeeld/beellama.cpp#141 · 15 commentaires · 2 réactions ·
-
enhancement
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 12/100
Anbeeld/beellama.cpp#137 · 5 commentaires ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 18/100
Anbeeld/beellama.cpp#133 ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 38/100
Anbeeld/beellama.cpp#131 ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 25/100
Anbeeld/beellama.cpp#129 ·
-
Bug Report: kvarn6 KV-quantization causes massive performance regression on ROCm (RX 7900 XTX)Ouverte
Difficulté 4/5 3-5 jours Accessibilité débutants 30/100
Anbeeld/beellama.cpp#122 · 14 commentaires ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 12/100
Anbeeld/beellama.cpp#121 · 1 commentaire ·
-
enhancement
Difficulté 4/5 3-5 jours Accessibilité débutants 20/100
Anbeeld/beellama.cpp#118 · 2 commentaires ·
-
enhancement
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 22/100
Anbeeld/beellama.cpp#115 · 2 commentaires ·
-
enhancement
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
Anbeeld/beellama.cpp#105 · 2 commentaires ·
-
Feature Request: Router: upstream clients' GET /models?reload=1 is silently inert, and a client can't detect which reload route existsPeut-être pris @dannyward630 l’a pris il y a 24 jours. Ouverteenhancement
Difficulté 3/5 1-2 jours Accessibilité débutants 25/100
Anbeeld/beellama.cpp#185 ·