Chủ sở hữu
JustVugg
Đã lập chỉ mục 1 kho mã nguồn · Xem trên GitHub
-
colibri
Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦
C · 36626 star
-
[datapoint] Tesla P40 Đang mở
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
-
Ternary weight formats (~1.75-2.13 bpw): in scope? and how to handle the GGUF/safetensors gap Đang mở
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
[Feature]: Disaggregated prefill Đang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
-
benchmark
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100
-
benchmark bug performance vulkan
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
[Bug]: GPU doesn't engage Đang mở
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100
-
[Feature]: Provide the necessary Windows coli_cuda.dll files or update instructions to build them Đang mởcuda feature
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 50/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 38/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100
-
good first issue performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 52/100
-
enhancement performance quality
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
benchmark discussion quality
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
Proposal: optional expert cache warmup — pre-warm page cache + hot experts before the first request Đang mởenhancement performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100
-
feature model-support
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
feature model-support
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
-
discussion
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
-
feature hardware-owner-needed metal performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 32/100
-
benchmark discussion quality
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100
-
benchmark discussion docs help wanted
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
discussion performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100
-
benchmark discussion performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
enhancement model-support performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
discussion hardware-owner-needed performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
KV cache is stored in fp32 and kvb_all materialises the decompressed K/V (x3.2 vs llama.cpp) Đang mởenhancement performance quality
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 45/100
-
cuda feature performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
discussion enhancement help wanted performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 38/100
-
bug cuda quality
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100
-
discussion
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100
-
[Feature]: Lossless entropy compression for streamed expert traffic (transport layer, any container) Đang mởfeature
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
-
hardware-owner-needed vulkan
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
-
feature
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100
-
performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100
-
performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
cuda performance
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100