ashhart/TensorFold

登录后关注

在 GitHub 查看

Fast, exact LLM decoding on Apple Silicon (MLX) behind an OpenAI-compatible endpoint

ashhart/TensorFold 对新手友好吗？

近 30 天，ashhart/TensorFold 合并了外部贡献者提交的 855 个 PR 中的 266 个，维护者通常 1 天内回复。目前没有开放的新手友好 issue，下方列出了我们收录的该仓库的其他 issue。

星标: 995
派生: 169
开放的新手 issue: 0
已索引 issue: 214
平均合并: 1 天 14 小时
30 天内合并 PR: 280

主要语言: Python
许可证: Apache-2.0
最近 GitHub push: 2026年10月4日
最近索引: 2026年10月5日
贡献指南: 没有贡献指南
行为准则: 没有行为准则
新手标签: 没有已索引的新手标签

如何为 ashhart/TensorFold 做贡献

这个项目没有贡献指南，可以先读 README，再看几个最近合并的 PR，了解改动是怎么提交的。
你的贡献将以该项目的 Apache-2.0 许可证发布。
关注这个仓库，有新的新手友好 issue 时就能知道；也可以看看下方的其他 issue。

适合新手全部

未关闭全部

可能已有人在做的 issue 排在最后。全部按时间排序

Proposal: Qwen3.8-27B ModelOpt NVFP4 checkpoints on the native CUDA engine (both precision modes)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 15/100

ashhart/TensorFold#1144 · 2026年10月21日创建

维护者通常 1 天内回复
Proposal: GLM-5.3-Flash on CUDA takes its streams' KV pages from the core pool, and kept prompt states copy only their rows
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 20/100

ashhart/TensorFold#1142 · 2026年10月21日创建

维护者通常 1 天内回复
Proposal: dense BF16 Qwen3.5 CUDA scoring
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#1136 · 2026年10月21日创建

维护者通常 1 天内回复
Illegal address (Xid 31 FAULT_PDE write) after a NoRoom growth refusal mid-prefill: sequence KV unmapped without a GPU fence
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 38/100

ashhart/TensorFold#1116 · 2026年10月20日创建

维护者通常 1 天内回复
CUDA kernel contract on nvcc 13.0: 656 pending launches have no 13.0 records, so `kernel-contract` and `kernel-contract-limits` fail on plain v1.1.1
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 52/100

ashhart/TensorFold#1105 · 2026年10月20日创建

维护者通常 1 天内回复
HIP/Nemotron contribution stack: review map and validation
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 1/100

ashhart/TensorFold#1081 · 2026年10月19日创建

维护者通常 1 天内回复
Linux desktop support using external OpenAI-compatible inference
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 24/100

ashhart/TensorFold#1077 · 3 条评论 · 1 个 reaction · 2026年10月19日创建

维护者通常 1 天内回复
Feature Request: Unload model after idle timeout
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 48/100

ashhart/TensorFold#1074 · 1 条评论 · 2026年10月19日创建

维护者通常 1 天内回复
GLM-5.3-Flash (Metal): ~5% prefill improvement — a tensor-tile kernel for the MTP draft head's eh_proj, on by default
可能重新可做关联的 PR 已关闭且未合并。未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 30/100

ashhart/TensorFold#1065 · 2026年10月19日创建

维护者通常 1 天内回复
Shared rounds keep draft depths at their priors, so a cost-table change moved 4-stream depth by one draft (8-11% at 4 streams)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#1059 · 2 条评论 · 2026年10月19日创建

维护者通常 1 天内回复
GLM-5.3 Metal path: DSA indexer scan 100-300 ms per 1K context (85x the CUDA rate of #259)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 28/100

ashhart/TensorFold#1054 · 3 条评论 · 2026年10月19日创建

维护者通常 1 天内回复
Flash Next 4-bit doesn't fit natively on a 128 GB Mac at default limits. Any plans for `--ple-on-ssd` on Metal?
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

ashhart/TensorFold#1039 · 3 条评论 · 2026年10月18日创建

维护者通常 1 天内回复
App beta.5 / beta.7: a TUN fake-IP proxy (Clash Verge, mihomo) fails every Hub check — the address guard reads 198.18.0.0/15 as private, and the UI reports it as a connection problem
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 45/100

ashhart/TensorFold#1037 · 2 条评论 · 2026年10月18日创建

维护者通常 1 天内回复
GLM on CUDA, GB10: the native engine spins two CPU cores per rank, and long runs of replies overheat the CPU
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 18/100

ashhart/TensorFold#1033 · 3 条评论 · 2026年10月18日创建

维护者通常 1 天内回复
Flash Next on Metal (1.1.0): a decoding stream stops for the whole of another stream's prefill
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 42/100

ashhart/TensorFold#1032 · 2 条评论 · 2026年10月18日创建

维护者通常 1 天内回复
Proposal: several models on one Mac under one memory budget
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 28/100

ashhart/TensorFold#1027 · 1 条评论 · 2026年10月18日创建

维护者通常 1 天内回复
NVIDIA's GLM-5.3-Flash-FP4-Local on the native CUDA engine (tracker)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#1015 · 7 条评论 · 1 个 reaction · 2026年10月17日创建

维护者通常 1 天内回复
Proposal: TensorFold Notes, memory inside the server (for 1.1.0)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

ashhart/TensorFold#1012 · 4 条评论 · 2026年10月17日创建

维护者通常 1 天内回复
GLM-5.3-Flash TP=2 (0.6.0 lineage): with uptime a 13-token prefill reaches 18.8 s and decode falls 40 to 14 tok/s, an idle rank 1 reads 96% GPU, and a restart clears both
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#993 · 13 条评论 · 2026年10月17日创建

维护者通常 1 天内回复
tensorfold benchmark: let a managed run take --kv-cache, so an fp8-served recipe can submit ranked
未关闭
- 哪里不对？
难度 4/5 1-2 天新手友好度 52/100

ashhart/TensorFold#983 · 4 条评论 · 2026年10月17日创建

维护者通常 1 天内回复
Nemotron 3.5 Super VL on two GB10s: TP=2 serial decode is no faster than TP=1 here, and what TP=3/4 would need
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#981 · 4 条评论 · 2026年10月17日创建

维护者通常 1 天内回复
Native 27B on M3 Ultra: cold prefill still 1.7x the python engine (open since 1.0.3); uniform-4bit checkpoints bypass 1.0.10's faster tiles
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

ashhart/TensorFold#918 · 8 条评论 · 2026年10月16日创建

维护者通常 1 天内回复
App 1.0.0-beta.6: notes from a first run against a remote OpenAI-compatible GLM server
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 15/100

ashhart/TensorFold#884 · 6 条评论 · 2026年10月15日创建

维护者通常 1 天内回复
Ling-3.1-flash on CUDA: a shared KDA kernel first, then the family at TP=1 and TP=2 (EXL3)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 12/100

ashhart/TensorFold#850 · 6 条评论 · 2026年10月14日创建

维护者通常 1 天内回复
Python engine features to carry into the native engine
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 15/100

ashhart/TensorFold#840 · 3 条评论 · 2026年10月14日创建

维护者通常 1 天内回复
Two-Mac (`--speed-up`) for Qwen3.8-27B, and a mid-size model that fits a pair of 128 GB Macs
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 12/100

ashhart/TensorFold#808 · 2 条评论 · 2026年10月13日创建

维护者通常 1 天内回复
qwen27 CUDA: an opt-in 4-bit attention cache (262K on a 24 GB card) — agreeing on its gate
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 12/100

ashhart/TensorFold#799 · 4 条评论 · 2026年10月13日创建

维护者通常 1 天内回复
New family: MiniCPM-V 4.7 35B-A3B (Qwen3.6 MoE fine-tune + vision tower)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 8/100

ashhart/TensorFold#785 · 6 条评论 · 2026年10月13日创建

维护者通常 1 天内回复
Universal model support, Living Weights with learn/unlearn, consumer GPU support, and Codex CLI compatibility
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 4/100

ashhart/TensorFold#782 · 3 条评论 · 2026年10月13日创建

维护者通常 1 天内回复
Feature request: a llama.cpp-compatible `GET /slots` (per-stream state) — /health says how many wait, not why
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

ashhart/TensorFold#752 · 2 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
Proposal: restore single-Mac GLM-5.3-Flash on the M3 Ultra
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 20/100

ashhart/TensorFold#743 · 6 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
Proposal: MiMo-V2.6-Flash on the CUDA native engine across two GPUs (EXL3, DFlash)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 20/100

ashhart/TensorFold#725 · 3 条评论 · 2026年10月12日创建

维护者通常 1 天内回复
Proposal: Clef decision models on the native engine (`/v1/systemone` and joint-schema scoring for `/v1/decisions`)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#692 · 7 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
Proposal: Living Weights: accept caller-supplied questions and answers
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 28/100

ashhart/TensorFold#687 · 6 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
Living Weights: conflicting facts, updates and forgetting (measurements + proposal)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

ashhart/TensorFold#678 · 21 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
Living Weights: lessons that pass recall (`recalled: true`) still overwrite real facts that share the question template
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 8/100

ashhart/TensorFold#646 · 12 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
Qwen3.8-27B on native 1.0.5: M6 (GPU generation 18) refused, and memory is too large for 32 GB
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 25/100

ashhart/TensorFold#643 · 14 条评论 · 2026年10月11日创建

维护者通常 1 天内回复
GB10: Nemotron decode is 1.4 % (code) / 3.0 % (prose) slower on 1.0.3 than on 1.0.2; on 1.0.5 the prose gap is still there
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 15/100

ashhart/TensorFold#627 · 8 条评论 · 2026年10月10日创建

维护者通常 1 天内回复
RFC: learned drafters for any family: one block drafter in the core, a recorder, and a recipe
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 8/100

ashhart/TensorFold#620 · 7 条评论 · 2026年10月10日创建

维护者通常 1 天内回复
Port Qwen3.8-27B (EXL3 3.00bpw + DFlash2) to the native CUDA engine on Ampere sm_86 (RTX 3090) — proposal and gate
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 8/100

ashhart/TensorFold#603 · 8 条评论 · 2026年10月10日创建

维护者通常 1 天内回复
Zig CUDA ports: shared layers below `lanes.Backend`, and one place to coordinate them
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 6/100

ashhart/TensorFold#548 · 16 条评论 · 2026年10月9日创建

维护者通常 1 天内回复
Cross-request prefix retention for the native Qwen3.5 engine
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#505 · 1 条评论 · 2026年10月8日创建

维护者通常 1 天内回复
Geometry-general native Qwen3.5 dense loader
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#503 · 2 条评论 · 2026年10月8日创建

维护者通常 1 天内回复
Proposal: native Zig HIP backend and Qwen27B GGUF qualification on gfx1151
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 25/100

ashhart/TensorFold#426 · 12 条评论 · 1 个 reaction · 2026年10月5日创建

维护者通常 1 天内回复

ashhart/TensorFold

ashhart/TensorFold 对新手友好吗？

如何为 ashhart/TensorFold 做贡献

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

把新 issue 发到你的邮箱