Owner
Anbeeld
1 indexiertes Repository · Auf GitHub ansehen
-
beellama.cpp
KVarN, KV cache precision tail, low-bit quants in llama.cpp for longer context of better precision in the same VRAM
C++ · 1177 Sterne
Issues, an denen vielleicht schon jemand arbeitet, stehen am Ende. Alles nach Datum anzeigen
-
Schwierigkeit 3/5 Ein halber Tag Anfängerfreundlichkeit 58/100
Anbeeld/beellama.cpp#206 ·
-
[BUG] KVarN assertion failure in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rotOffen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
Anbeeld/beellama.cpp#205 ·
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 57/100
Anbeeld/beellama.cpp#204 ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 45/100
Anbeeld/beellama.cpp#203 · 2 Kommentare ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 45/100
Anbeeld/beellama.cpp#202 · 1 Kommentar ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 48/100
Anbeeld/beellama.cpp#200 ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 35/100
Anbeeld/beellama.cpp#199 ·
-
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 35/100
Anbeeld/beellama.cpp#198 ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 18/100
Anbeeld/beellama.cpp#195 ·
-
enhancement
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 35/100
Anbeeld/beellama.cpp#194 ·
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 8/100
Anbeeld/beellama.cpp#192 · 27 Kommentare ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 40/100
Anbeeld/beellama.cpp#190 ·
-
[BUG] llama-perplexity crashes with CUDA illegal instruction on RTX 3090 (--kl-divergence, -fit on)Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
Anbeeld/beellama.cpp#187 · 1 Kommentar ·
-
enhancement
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
Anbeeld/beellama.cpp#183 · 3 Kommentare ·
-
enhancement
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 20/100
Anbeeld/beellama.cpp#179 · 2 Kommentare ·
-
enhancement
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 28/100
Anbeeld/beellama.cpp#173 ·
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 12/100
Anbeeld/beellama.cpp#163 · 1 Reaktion ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 22/100
Anbeeld/beellama.cpp#157 · 4 Kommentare ·
-
Unoptimized BuildOffen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 30/100
Anbeeld/beellama.cpp#141 · 15 Kommentare · 2 Reaktionen ·
-
enhancement
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 12/100
Anbeeld/beellama.cpp#137 · 5 Kommentare ·
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 18/100
Anbeeld/beellama.cpp#133 ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 38/100
Anbeeld/beellama.cpp#131 ·
-
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 25/100
Anbeeld/beellama.cpp#129 ·
-
Bug Report: kvarn6 KV-quantization causes massive performance regression on ROCm (RX 7900 XTX)Offen
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 30/100
Anbeeld/beellama.cpp#122 · 14 Kommentare ·
-
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 12/100
Anbeeld/beellama.cpp#121 · 1 Kommentar ·
-
enhancement
Schwierigkeit 4/5 3-5 Tage Anfängerfreundlichkeit 20/100
Anbeeld/beellama.cpp#118 · 2 Kommentare ·
-
enhancement
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 22/100
Anbeeld/beellama.cpp#115 · 2 Kommentare ·
-
enhancement
Schwierigkeit 5/5 Über eine Woche Anfängerfreundlichkeit 25/100
Anbeeld/beellama.cpp#105 · 2 Kommentare ·
-
Feature Request: Router: upstream clients' GET /models?reload=1 is silently inert, and a client can't detect which reload route existsEvtl. vergeben @dannyward630 hat das vor 24 Tagen übernommen. Offenenhancement
Schwierigkeit 3/5 1-2 Tage Anfängerfreundlichkeit 25/100
Anbeeld/beellama.cpp#185 ·