JustVugg のオープンソースプロジェクト

[Feature]: Continue interrupted assistant responses in web chat オープン

難易度 3/5 1〜2日初心者へのやさしさ 68/100

JustVugg/colibri#1699 · 2026年9月23日に作成

[Feature]: close the OpenAI-API compatibility gap in `c/openai_server.py`, in value tiers オープン

難易度 5/5 1週間以上初心者へのやさしさ 28/100

JustVugg/colibri#1698 · 2026年9月23日に作成

[Performance]: DeepSeek V4 on Apple Silicon (CPU path): prefill runs at decode speed, 1.3–1.75 prompt tok/s — 577-token prompt = 6 min TTFT オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

JustVugg/colibri#1696 · 2026年9月22日に作成

[Feature]: Disaggregated prefill オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#1672 · コメント 1 件 · 2026年9月22日に作成

[Feature]: Add support for MiMo V2.6 オープン

難易度 5/5 1週間以上初心者へのやさしさ 30/100

JustVugg/colibri#1661 · コメント 2 件 · リアクション 8 件 · 2026年9月21日に作成

[datapoint] Qwen3.6-35B-A3B on Tesla M10 オープン

benchmark

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#1652 · コメント 8 件 · 2026年9月21日に作成

[Experiment] Routing-count coldness badly overestimates expert prunability — OLMoE int8, M5 Pro, a8f2ca6 オープン

難易度 5/5 1週間以上初心者へのやさしさ 35/100

JustVugg/colibri#1621 · コメント 3 件 · 2026年9月19日に作成

[Performance]: macOS planner trusts `free + inactive`, but the kernel compresses the expert cache — 32 GiB budget is slower than 16 GiB on a 48 GB Mac オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

JustVugg/colibri#1614 · コメント 3 件 · 2026年9月18日に作成

[Feature]: heterogeneous 3-lane MoE scheduling, wall-clock telemetry & routing-history improvements (from the Peregrine prototype) オープン

難易度 5/5 1週間以上初心者へのやさしさ 28/100

JustVugg/colibri#1609 · コメント 3 件 · 2026年9月18日に作成

coli serve: RAM auto-detect returns 0.0 GB and silently falls back to a tiny expert cache (no warning) オープン

難易度 3/5 1〜2日初心者へのやさしさ 68/100

JustVugg/colibri#1601 · コメント 1 件 · 2026年9月18日に作成

Vulkan is never torn down: no engine calls coli_vk_shutdown (Metal is, in kimi_k3) オープン

難易度 4/5 3〜5日初心者へのやさしさ 45/100

JustVugg/colibri#1570 · コメント 1 件 · 2026年9月16日に作成

[EXPERIMENT] Host-RAM residency is worth 31% of a turn — and it is the ceiling a V4.1 GPU expert tier would be chasing オープン

難易度 2/5 1〜3時間初心者へのやさしさ 78/100

JustVugg/colibri#1525 · コメント 1 件 · 2026年9月15日に作成

[EXPERIMENT] Hypothesis #2 holds, and my first attempt said otherwise for a reason that had nothing to do with drives オープン

難易度 3/5 1〜2日初心者へのやさしさ 35/100

JustVugg/colibri#1523 · コメント 1 件 · 2026年9月14日に作成

[EXPERIMENT] The OpenMP team is the whole ballgame on a many-core host: 14x on V4.1, from a call four engines already make オープン

難易度 3/5 1〜2日初心者へのやさしさ 35/100

JustVugg/colibri#1518 · コメント 2 件 · 2026年9月14日に作成

Experiment report: GLM-5.2 on AMD Strix Halo (Ryzen AI MAX+ 395, 128 GB unified) — 0.26-0.38 tok/s, CPU-bound not disk-bound, and the Vulkan expert tier double-counts unified memory オープン

benchmark bug performance vulkan

難易度 5/5 1週間以上初心者へのやさしさ 35/100

JustVugg/colibri#1502 · コメント 13 件 · リアクション 1 件 · 2026年9月14日に作成

[Bug]: GPU doesn't engage オープン

難易度 4/5 3〜5日初心者へのやさしさ 42/100

JustVugg/colibri#1498 · コメント 3 件 · 2026年9月14日に作成

[Feature]: Provide the necessary Windows coli_cuda.dll files or update instructions to build them オープン

cuda feature

難易度 4/5 3〜5日初心者へのやさしさ 50/100

JustVugg/colibri#1405 · コメント 20 件 · 2026年9月9日に作成

Perplexity vs Ollama's Q4_K_M on the same tokens: our int4 experts lose 2.5–3.4 %, the int8 trunk buys nothing — two questions about the format オープン

難易度 5/5 1週間以上初心者へのやさしさ 28/100

JustVugg/colibri#1370 · コメント 3 件 · 2026年9月6日に作成

DeepSeek V4 has no Metal path — measured 5.05x TTFT / 2.81x tok/s gap on Apple Silicon オープン

難易度 5/5 1週間以上初心者へのやさしさ 38/100

JustVugg/colibri#1309 · コメント 3 件 · 2026年8月31日に作成

[Feature]: A universal tool for all models オープン

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#1240 · コメント 6 件 · 2026年8月26日に作成

Offer: PILOT benchmarks on a compute/disk-balanced machine (8GB VRAM / 16GB RAM) オープン

難易度 3/5 1〜2日初心者へのやさしさ 55/100

JustVugg/colibri#1149 · コメント 2 件 · 2026年8月20日に作成

[Discussion] Upstreaming the #161 CUDA stack: attention is now 80% of resident-host decode, and the 2.4→11.1 line deserves a continuation オープン

難易度 5/5 1週間以上初心者へのやさしさ 30/100

JustVugg/colibri#1140 · コメント 3 件 · リアクション 1 件 · 2026年8月20日に作成

[EXPERIMENT] Prompt-semantic Atlas cluster pinning for cold-start prefetch — pre-registered A/B (README hypothesis row 1) オープン

難易度 5/5 1週間以上初心者へのやさしさ 28/100

JustVugg/colibri#1078 · コメント 7 件 · 2026年8月18日に作成

[perf] olmoe: O(cap) eviction scan under g_pilot_mx makes tok/s non-monotonic in cache size オープン

good first issue performance

難易度 4/5 3〜5日初心者へのやさしさ 52/100

JustVugg/colibri#1050 · コメント 7 件 · 2026年8月16日に作成

Proposal: opt-in HQQ 5-bit AXIS=0 MoE weights — −25% bytes, +36% E2E on disk-bound hardware, quality within +2.4% ppl of int8 オープン

enhancement performance quality

難易度 5/5 1週間以上初心者へのやさしさ 35/100

JustVugg/colibri#1009 · コメント 2 件 · 2026年8月14日に作成

HQQ grouping axis is a functional property, not just a size trade-off: AXIS=1 costs +9% ppl where AXIS=0 costs +2.4%, at equal weight-MSE オープン

benchmark discussion quality

難易度 4/5 3〜5日初心者へのやさしさ 45/100

JustVugg/colibri#1008 · コメント 2 件 · 2026年8月14日に作成

Proposal: optional expert cache warmup — pre-warm page cache + hot experts before the first request オープン

enhancement performance

難易度 5/5 1週間以上初心者へのやさしさ 42/100

JustVugg/colibri#1007 · コメント 2 件 · 2026年8月14日に作成

[Feature]: Add support for dots-studio/dots3-note-prev オープン

feature model-support

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#1004 · コメント 1 件 · 2026年8月14日に作成

[Feature]: Add support for Mistral Large 3 オープン

feature model-support

難易度 5/5 1週間以上初心者へのやさしさ 30/100

JustVugg/colibri#972 · コメント 3 件 · 2026年8月12日に作成

[DRAFT] [Feature]: Port to RUST for custom baremetal Kernel オープン

discussion

難易度 5/5 1週間以上初心者へのやさしさ 15/100

JustVugg/colibri#938 · コメント 4 件 · リアクション 2 件 · 2026年8月11日に作成

# [Feature] Metal: tiled tensor-ops prefill GEMM — int8 tensor ops now (26.5: W4A8/W8A8), fp8-native next (macOS 27) — and routed experts are still CPU at prefill オープン

feature hardware-owner-needed metal performance

難易度 5/5 1週間以上初心者へのやさしさ 32/100

JustVugg/colibri#918 · コメント 1 件 · 2026年8月10日に作成

Per-matrix bit allocation: W_down is the fragile matrix (HQQ vs RTN map, OLMoE) オープン

benchmark discussion quality

難易度 5/5 1週間以上初心者へのやさしさ 28/100

JustVugg/colibri#883 · コメント 3 件 · 2026年8月7日に作成

Four different bandwidths for one disk: a metrology cautionary tale オープン

benchmark discussion docs help wanted

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#867 · コメント 3 件 · 2026年8月6日に作成

Prefetch-predictor ceiling from fp16 borderline flips (re: PILOT accuracy) オープン

discussion performance

難易度 4/5 3〜5日初心者へのやさしさ 35/100

JustVugg/colibri#866 · コメント 4 件 · 2026年8月6日に作成

OLMoE has no hot expert zone (counter-datapoint for pinned hot-store policies) オープン

benchmark discussion performance

難易度 4/5 3〜5日初心者へのやさしさ 45/100

JustVugg/colibri#864 · コメント 5 件 · 2026年8月6日に作成

The learned partial mirror is GLM-only, and Kimi K3 is the model that needs it most オープン

enhancement model-support performance

難易度 5/5 1週間以上初心者へのやさしさ 35/100

JustVugg/colibri#812 · コメント 1 件 · 2026年8月3日に作成

Intel Optane Storage on PMEM 100 or PMEM 200 オープン

discussion hardware-owner-needed performance

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#797 · コメント 3 件 · 2026年8月2日に作成

KV cache is stored in fp32 and kvb_all materialises the decompressed K/V (x3.2 vs llama.cpp) オープン

enhancement performance quality

難易度 5/5 1週間以上初心者へのやさしさ 45/100

JustVugg/colibri#768 · コメント 5 件 · 2026年8月2日に作成

[Feature]: nvme to gpu (nvfp4) or nvme + ram to gpu (nvfp4) オープン

cuda feature performance

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#734 · コメント 2 件 · 2026年7月31日に作成

[Experiment] expert-transition-history placement policy vs gate-momentum — controlled A/B for hypothesis #1 オープン

discussion enhancement help wanted performance

難易度 5/5 1週間以上初心者へのやさしさ 38/100

JustVugg/colibri#708 · コメント 11 件 · 2026年7月30日に作成

[Bug]: deep speculative verify batches are not token-exact vs CPU on CUDA (near-tie flips + lower draft acceptance) オープン

bug cuda quality

難易度 4/5 3〜5日初心者へのやさしさ 48/100

JustVugg/colibri#689 · コメント 11 件 · 2026年7月29日に作成

I trained a small model for this engine from scratch, anyone can use it オープン

discussion

難易度 5/5 1週間以上初心者へのやさしさ 20/100

JustVugg/colibri#683 · コメント 4 件 · リアクション 2 件 · 2026年7月29日に作成

[Feature]: Lossless entropy compression for streamed expert traffic (transport layer, any container) オープン

feature

難易度 5/5 1週間以上初心者へのやさしさ 30/100

JustVugg/colibri#594 · コメント 17 件 · 2026年7月24日に作成

RDNA2 (gfx1030) field report: AMD backend works; greedy decode not token-stable across mixed CPU/GPU expert tiers オープン

hardware-owner-needed vulkan

難易度 4/5 3〜5日初心者へのやさしさ 45/100

JustVugg/colibri#510 · コメント 6 件 · 2026年7月22日に作成

[Feature]: external draft-model hook (DeepSpec/DSpark-style sequential drafts) to raise acceptance on disk-bound hosts オープン

feature

難易度 5/5 1週間以上初心者へのやさしさ 42/100

JustVugg/colibri#494 · コメント 3 件 · 2026年7月21日に作成

[Performance]: hot-path float reductions are scalar and don't auto-vectorize (router matmul + MLA-absorb attention) オープン

performance

難易度 5/5 1週間以上初心者へのやさしさ 42/100

JustVugg/colibri#442 · コメント 3 件 · 2026年7月19日に作成

[Performance]: PILOT prefetch runs at NVMe queue-depth 1, and DIRECT=1 re-reads WILLNEED-prefetched pages オープン

performance

難易度 5/5 1週間以上初心者へのやさしさ 35/100

JustVugg/colibri#441 · コメント 12 件 · 2026年7月19日に作成

decode pays ~54 ms/token in CUDA API choreography (1,490 launches + 240 syncs) — plan: device router → indirect kernels → one-graph decode オープン

cuda performance

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#431 · コメント 5 件 · 2026年7月19日に作成

[Feature]: Using FP16 Weights オープン

feature

難易度 4/5 3〜5日初心者へのやさしさ 48/100

JustVugg/colibri#405 · コメント 5 件 · 2026年7月19日に作成

Make the runtime path Python-free by porting the CLI and API gateway to Go オープン

discussion

難易度 5/5 1週間以上初心者へのやさしさ 25/100

JustVugg/colibri#310 · コメント 11 件 · 2026年7月16日に作成

JustVugg

新しい issue をメールで受け取る