midagedev/bloomery

在 GitHub 查看

Hybrid GPU + CPU inference for mixture-of-experts models, written in Rust down to the CUDA kernels. A drop-in llama-server.

midagedev/bloomery 对新手友好吗？

近 30 天，midagedev/bloomery 合并了外部贡献者提交的 16 个 PR 中的 15 个，维护者通常 1 天内回复。目前有 5 个适合新手的 issue 开放。

星标: 21
派生: 4
开放的新手 issue: 5
已索引 issue: 70
平均合并: 3 小时 52 分钟
30 天内合并 PR: 134

主要语言: Rust
许可证: MIT
最近 GitHub push: 2026年10月11日
最近索引: 2026年10月11日
贡献指南: 贡献指南
行为准则: 没有行为准则
新手标签: help wanted good first issue

如何为 midagedev/bloomery 做贡献

先读贡献指南：它说明了维护者希望如何提出、测试和评审改动。
你的贡献将以该项目的 MIT 许可证发布。
从下方 5 个开放的新手友好 issue 中选一个，开始之前先留言说明你想认领它。

适合新手全部

未关闭全部

可能已有人在做的 issue 排在最后。全部按时间排序

gpu-gates: chain FFN gate duplicates the shared rounding model
未关闭
- 哪里不对？
review-bot

难度 2/5 1 小时以内新手友好度 78/100

midagedev/bloomery#239 · 2026年10月15日创建

维护者通常 1 天内回复
Speculative drafts (MTP / DFlash / DSpark / DFlash2): current status and what to strengthen (post-0.3.3)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 15/100

midagedev/bloomery#228 · 2026年10月15日创建

维护者通常 1 天内回复
boxq: signals during the final output flush return the job's success code
未关闭
- 哪里不对？
review-bot

难度 3/5 1-2 天新手友好度 56/100

midagedev/bloomery#214 · 1 条评论 · 2026年10月14日创建

维护者通常 1 天内回复
model: EmbeddingGemma and EmbeddingGemma 2 on a side seat
未关闭
- 哪里不对？
model new-model

难度 5/5 一周以上新手友好度 5/100

midagedev/bloomery#190 · 2 条评论 · 2026年10月14日创建

维护者通常 1 天内回复
tools, gpu-gates, gpu, engram, gguf, qdot, refset: problems found on the side of the DGX Spark work, by severity
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 30/100

midagedev/bloomery#137 · 2026年10月13日创建

维护者通常 1 天内回复
dgx-spark: P5 goes ahead with generations only on the link
未关闭
- 哪里不对？
dgx-spark

难度 5/5 一周以上新手友好度 6/100

midagedev/bloomery#127 · 1 条评论 · 2026年10月13日创建

维护者通常 1 天内回复
model: NVIDIA-Nemotron-3.5-Lightning-30B-A3B
未关闭
- 哪里不对？
model new-model

难度 5/5 一周以上新手友好度 10/100

midagedev/bloomery#108 · 1 条评论 · 2026年10月13日创建

维护者通常 1 天内回复
Shingler's slag ledger
未关闭
- 哪里不对？
review-ledger

难度 4/5 3-5 天新手友好度 32/100

midagedev/bloomery#92 · 2026年10月13日创建

维护者通常 1 天内回复
Model: MiniCPM-V 4.7 35B-A3B (text, DSpark draft, vision) and the Qwen3.6 DSpark draft
未关闭
- 哪里不对？
model

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#90 · 1 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
native AMD: Rust/HIP Q4_K and FFN feasibility on RX 7900 GRE (operators only)
未关闭
- 哪里不对？
enhancement hardware

难度 5/5 一周以上新手友好度 30/100

midagedev/bloomery#87 · 7 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
qdot: AVX-512 (VNNI) host kernels, and one owner that picks the ISA
未关闭
- 哪里不对？
enhancement help wanted host

难度 5/5 一周以上新手友好度 38/100

midagedev/bloomery#81 · 2 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
GLM step: the card fills the next step's inputs (no host round trip)
未关闭
- 哪里不对？
help wanted

难度 5/5 一周以上新手友好度 38/100

midagedev/bloomery#79 · 2026年10月12日创建

维护者通常 1 天内回复
experiment: an opt-in lever that drops low-ranked missed experts in the verify window (speed vs KL)
未关闭
- 哪里不对？
help wanted measure

难度 4/5 3-5 天新手友好度 45/100

midagedev/bloomery#78 · 2026年10月12日创建

维护者通常 1 天内回复
measure: next-layer routing prediction recall (the premise of paged read-ahead)
未关闭
- 哪里不对？
help wanted measure

难度 4/5 3-5 天新手友好度 54/100

midagedev/bloomery#77 · 5 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
measure: GLM-5.3-Flash with the MTP draft on and off (same binary)
未关闭
- 哪里不对？
help wanted measure

难度 3/5 1-2 天新手友好度 48/100

midagedev/bloomery#76 · 2 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
quant: Q8_0, Q6_K and IQ4_XS experts on the card legs (one accepts row each)
未关闭
- 哪里不对？
enhancement

难度 4/5 3-5 天新手友好度 35/100

midagedev/bloomery#75 · 2026年10月12日创建

维护者通常 1 天内回复
MTP: attach MiMo-V2.6-Flash's sidecar MTP to the common head owner
未关闭
- 哪里不对？
enhancement

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#74 · 2026年10月12日创建

维护者通常 1 天内回复
host tier: one CPU/PCIe split rule for missed experts in decode steps too
未关闭
- 哪里不对？
enhancement

难度 5/5 一周以上新手友好度 18/100

midagedev/bloomery#73 · 1 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
paged: compute hit experts while the misses are read
未关闭
- 哪里不对？
enhancement

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#72 · 2026年10月12日创建

维护者通常 1 天内回复
paged: turn Qwen3.8's MTP draft on for 12/24 GB paged plans (verify's queue depth)
未关闭
- 哪里不对？
enhancement

难度 4/5 3-5 天新手友好度 45/100

midagedev/bloomery#71 · 2 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
model: MiMo-V2.6-Flash-RL (mimo2, 309B/15B)
未关闭
- 哪里不对？
model

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#61 · 2026年10月12日创建

维护者通常 1 天内回复
model: GLM-5.3 (glm-dsa, 753B/active unverified)
未关闭
- 哪里不对？
model

难度 4/5 3-5 天新手友好度 48/100

midagedev/bloomery#60 · 2026年10月12日创建

维护者通常 1 天内回复
model: EmbeddingGemma 2 (gemma-embedding2, 0.74B dense)
未关闭
- 哪里不对？
model

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#59 · 1 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
gpu: gate_kquant fails when the PTX comes from the Rust toolchain's llc (LLVM 23), which cuda-oxide picks ahead of LLVM 21
未关闭
- 哪里不对？
gpu

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#54 · 2 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
dgx-spark: what is in progress on the Spark side, as a checklist
未关闭
- 哪里不对？
dgx-spark tracking

难度 5/5 一周以上新手友好度 18/100

midagedev/bloomery#53 · 14 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
tools, model: two T1 reds on Ubuntu 26.04 with a 16-thread pool
未关闭
- 哪里不对？
model tools

难度 4/5 3-5 天新手友好度 45/100

midagedev/bloomery#52 · 1 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
0.3.0 numbers for the README at serving defaults: DGX Spark and RTX 5090
未关闭
- 哪里不对？
dgx-spark hardware

难度 2/5 1-3 小时新手友好度 25/100

midagedev/bloomery#46 · 22 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
dgx-spark: `sm_121` PTX gives the same SASS as `sm_86` for 213 of 215 functions on GB10, and `gate-ptx-spill` also fails at `sm_86` (P3 row)
未关闭
- 哪里不对？
dgx-spark

难度 4/5 3-5 天新手友好度 25/100

midagedev/bloomery#42 · 1 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
dgx-spark: the threads pool's P/E split has no term on the Spark's default path (P3 row)
未关闭
- 哪里不对？
dgx-spark

难度 3/5 1-2 天新手友好度 42/100

midagedev/bloomery#41 · 1 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
Status board (auto-updated) · 작업 현황
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 65/100

midagedev/bloomery#40 · 2026年10月11日创建

维护者通常 1 天内回复
측정: 익명 mmap의 cudaHostRegister 비용 (s/GiB)과 등록 버퍼의 H2D
未关闭
- 哪里不对？
hardware help wanted measure

难度 4/5 3-5 天新手友好度 42/100

midagedev/bloomery#33 · 7 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
측정: MoE 모델의 검증 pass 비용 r(m) = pass(m)/pass(1), lookup draft 폭과 expert 묶기를 정함
未关闭
- 哪里不对？
hardware help wanted measure

难度 4/5 3-5 天新手友好度 45/100

midagedev/bloomery#32 · 4 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
prefill: qwen35moe placed(hybrid) 로드가 prompt를 8행 pass로 처리해 느림
未关闭
- 哪里不对？
bug

难度 4/5 3-5 天新手友好度 20/100

midagedev/bloomery#29 · 2026年10月11日创建

维护者通常 1 天内回复
serve: 12 GB 카드에서 qwen35moe 기본 ctx가 슬롯당 2048이라 6K 토큰 prompt를 거부
未关闭
- 哪里不对？
bug serve

难度 4/5 3-5 天新手友好度 35/100

midagedev/bloomery#28 · 1 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
plan 레코드: 호스트에 고정된 layer와 그 이유(host_only_reason)가 출력에 없음
未关闭
- 哪里不对？
good first issue help wanted

难度 4/5 3-5 天新手友好度 50/100

midagedev/bloomery#22 · 2026年10月11日创建

维护者通常 1 天内回复
Blackwell probe: does the block-scaled FP4 MMA (mxf8f6f4) give GGUF MXFP4's values bit for bit?
未关闭
- 哪里不对？
dgx-spark hardware help wanted

难度 4/5 3-5 天新手友好度 30/100

midagedev/bloomery#19 · 3 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
dgx-spark: is prefill byte-bound or tensor-bound on GB10? (grouped GEMM time, pp512/pp4096)
未关闭
- 哪里不对？
dgx-spark hardware help wanted

难度 4/5 1-2 天新手友好度 20/100

midagedev/bloomery#18 · 6 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
dgx-spark: decode step timeline (nsys) and sampled vs greedy decode rate on GB10
未关闭
- 哪里不对？
dgx-spark hardware help wanted

难度 3/5 半天新手友好度 20/100

midagedev/bloomery#17 · 13 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
gpu-gates: 카드 이름 토큰 .replace(' ', "_")가 7곳에 복사됨
可能重新可做关联的 PR 已关闭且未合并。未关闭
- 哪里不对？
good first issue help wanted

难度 3/5 1-2 天新手友好度 55/100

midagedev/bloomery#11 · 1 条评论 · 2026年10月10日创建

维护者通常 1 天内回复
hidden_ref: invalid numeric options silently select defaults
可能已有人在做 @midagedev 今天认领。未关闭
- 哪里不对？
review-bot

难度 2/5 1-3 小时新手友好度 50/100

midagedev/bloomery#240 · 2026年10月15日创建

维护者通常 1 天内回复
gpu-gate self-test: the outer timeout leaves the inner gate alive
可能已有人在做 @juliankang4 于 1 天前认领。未关闭
- 哪里不对？
review-bot

难度 4/5 1-2 天新手友好度 22/100

midagedev/bloomery#171 · 4 条评论 · 2026年10月14日创建

维护者通常 1 天内回复
model: NVIDIA Nemotron 3 Nano 4B (0.3.3, after #30)
可能已有人在做 @midagedev 于 1 天前认领。未关闭
- 哪里不对？
model new-model

难度 5/5 一周以上新手友好度 12/100

midagedev/bloomery#156 · 1 条评论 · 已指派 1 人 · 2026年10月14日创建

维护者通常 1 天内回复
placement: the user's slots and context come first; experts take what is left (ctx-first)
可能已有人在做 @midagedev 于 1 天前认领。未关闭
- 哪里不对？
placement

midagedev/bloomery#155 · 2 条评论 · 已指派 1 人 · 2026年10月14日创建

维护者通常 1 天内回复
qwen35/27B native generation: existing Body35, frontend dispatch and mixed-IQ admission gaps
可能已有人在做关联的 PR 仍在进行中或已合并。未关闭
- 哪里不对？
enhancement gpu model

难度 5/5 一周以上新手友好度 25/100

midagedev/bloomery#88 · 4 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
MTP: NextN layer가 있는 qwen35moe 파일에 draft가 없음 (Role::Unused)
可能已有人在做关联的 PR 仍在进行中或已合并。未关闭
- 哪里不对？
enhancement

难度 4/5 3-5 天新手友好度 45/100

midagedev/bloomery#30 · 1 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
dgx-spark: P0 builds and runs on a DGX Spark, with readings for the port map
可能已有人在做关联的 PR 仍在进行中或已合并。未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 15/100

midagedev/bloomery#13 · 30 条评论 · 2026年10月10日创建

维护者通常 1 天内回复

midagedev/bloomery

midagedev/bloomery 对新手友好吗？

如何为 midagedev/bloomery 做贡献

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

把新 issue 发到你的邮箱