Owner

mw00

登录后关注

已索引 1 个仓库 · 在 GitHub 查看

project-maya
Project Maya - run GLM-5.3-Flash (321B MoE) and DeepSeek-V4.1-Flash-1017 (748B MoE) privately on your own GPU(s), from one card to 16, NV...

C++ · 1872 个 star

适合新手全部

未关闭全部

可能已有人在做的 issue 排在最后。全部按时间排序

Windows + HIP: the dashboard shows the wrong GPUs when HIP doesn't see every AMD adapter (DXGI order vs HIP numbering)
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 22/100

mw00/project-maya#780 · 2026年11月2日创建

维护者通常 1 天内回复
Windows, one 20 GB GPU: --parallel 2 gives two real sessions (+14% aggregate); --parallel 3 collapses
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 12/100

mw00/project-maya#779 · 2026年11月2日创建

维护者通常 1 天内回复
ngram table keeps downloading for both Maya's
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 25/100

mw00/project-maya#776 · 1 条评论 · 2026年11月1日创建

维护者通常 1 天内回复
add high context for glm
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 25/100

mw00/project-maya#769 · 2026年11月1日创建

维护者通常 1 天内回复
hardcoded logit_bias specified in server command line
未关闭
- 哪里不对？
难度 3/5 1-2 天新手友好度 35/100

mw00/project-maya#768 · 1 条评论 · 2026年11月1日创建

维护者通常 1 天内回复
[Speed Report + Unfilled VRAM issue] DS4.1 1017 flash UD_Q8_K_XL (4x rtx 3090 + Threadripper + 504GB DDR4)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 14/100

mw00/project-maya#766 · 1 条评论 · 2026年11月1日创建

维护者通常 1 天内回复
A Blender/Unreal assistant on one 48 GB GPU: DeepSeek Q8, 26/26 at 41 tok/s
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 15/100

mw00/project-maya#765 · 1 条评论 · 2026年11月1日创建

维护者通常 1 天内回复
Speed report: RX 7900 XTX 24 GB (gfx1100, ROCm 10.2), DeepSeek-V4.1-Flash Maya-XS 64K + DSpark - 18.4 tok/s decode, 395 tok/s prefill (v1.1.46)
未关闭
- 哪里不对？
难度 1/5 1 小时以内新手友好度 22/100

mw00/project-maya#757 · 2026年11月1日创建

维护者通常 1 天内回复
Speed report: RTX 5070 12 GB + EPYC 7302 (4-channel DDR4), Maya-S24 - 16.6 -> 24.2 tok/s decode, 323 -> 428 prefill; DFlash2 ~5 tok/s on one GPU + one socket
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 22/100

mw00/project-maya#755 · 2026年11月1日创建

维护者通常 1 天内回复
Speed report: AC922 (2x POWER9, 6x V100-16GB) - 69.6 tok/s decode, 1M context, Maya-S24 built from source on ppc64le
未关闭
- 哪里不对？
难度 4/5 半天新手友好度 12/100

mw00/project-maya#754 · 1 条评论 · 2026年11月1日创建

维护者通常 1 天内回复
[bug] Maya-XS: every request fails with "cudaEventRecord(d.hc_done, d.st2): an illegal memory access" on 4x RTX 2080 Ti (sm_75) — v1.1.39 and v1.1.46
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 15/100

mw00/project-maya#750 · 1 条评论 · 2026年11月1日创建

维护者通常 1 天内回复
Windows: DeepSeek vision works on v1.1.45 with a pack rebuilt by tools/ds4/vision_pack.py (v1.1.44 crashed the CUDA context on every picture)
未关闭
- 哪里不对？
难度 2/5 1 小时以内新手友好度 8/100

mw00/project-maya#744 · 2026年11月1日创建

维护者通常 1 天内回复
Request new Exl3 quant: DSV4.1-Flash-1017-SAGE-EXL3-1.62bpw
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 18/100

mw00/project-maya#740 · 2026年10月31日创建

维护者通常 1 天内回复
DeepSeek: make the 8 GiB system-RAM budgeting margin configurable
未关闭
- 哪里不对？
难度 3/5 1-2 天新手友好度 45/100

mw00/project-maya#739 · 2026年10月31日创建

维护者通常 1 天内回复
Windows 11 speed report: MiniMax-M3.1-Flash Maya-S on RTX PRO 6000 Blackwell 96 GB — 48.6 tok/s decode, 757 tok/s prefill (8K)
未关闭
- 哪里不对？
难度 3/5 半天新手友好度 20/100

mw00/project-maya#738 · 2026年10月31日创建

维护者通常 1 天内回复
Windows 11 speed report: DeepSeek-V4.1-Flash Maya-S on RTX PRO 6000 Blackwell 96 GB — 72.3 tok/s decode, 1757 tok/s prefill (8K)
未关闭
- 哪里不对？
难度 3/5 半天新手友好度 15/100

mw00/project-maya#737 · 7 条评论 · 2026年10月31日创建

维护者通常 1 天内回复
[bug] DS4 HIP: reloading DeepSeek fails while copying CPU-lane experts from model files
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 18/100

mw00/project-maya#735 · 2 条评论 · 2026年10月31日创建

维护者通常 1 天内回复
TP on two cards: the second card keeps ~1.5-2 GB free — is asymmetric expert residency possible, or is that expected?
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 15/100

mw00/project-maya#734 · 2026年10月31日创建

维护者通常 1 天内回复
DeepSeek: the automatic layer split balances streamed bytes, not time, so short prompts wait on the slow-link GPUs
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 25/100

mw00/project-maya#733 · 2026年10月31日创建

维护者通常 1 天内回复
DeepSeek: v1.1.42's slow-link ring rule makes fresh prompt reads ~8% slower on 3090s on PCIe 3.0 x8 (#609)
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 34/100

mw00/project-maya#731 · 2026年10月31日创建

维护者通常 1 天内回复
Windows 11 speed report: RTX PRO 6000 Blackwell 96 GB, Maya-L — 48.8 tok/s decode, 3810 tok/s prefill (8K)
未关闭
- 哪里不对？
难度 1/5 1 小时以内新手友好度 15/100

mw00/project-maya#730 · 2026年10月31日创建

维护者通常 1 天内回复
[bug] loop-guard retry overflows context by (note - slack) -> "reply was cut short" stubs
未关闭
- 哪里不对？
难度 3/5 半天新手友好度 66/100

mw00/project-maya#727 · 3 条评论 · 2026年10月31日创建

维护者通常 1 天内回复
[bug]Codex CLI 0.160.0 fails against Maya's Responses API
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 25/100

mw00/project-maya#726 · 2 条评论 · 2026年10月31日创建

维护者通常 1 天内回复
Let the token-savings ledger live somewhere other than next to --config
未关闭
- 哪里不对？
难度 3/5 半天新手友好度 50/100

mw00/project-maya#724 · 2026年10月31日创建

维护者通常 1 天内回复
Speed report: GLM-5.3-Flash UD-IQ3_XXS on 2x RTX 4060 Ti 16 GB (PCIe 3.0 x8), and a few side findings
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 6/100

mw00/project-maya#723 · 2026年10月31日创建

维护者通常 1 天内回复
maya-mm3 GGUF: a changed GPU list silently invalidates the prefill calibration (tune key includes the GPUs) + 2x R9700 chunk measurements
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 35/100

mw00/project-maya#721 · 2026年10月31日创建

维护者通常 1 天内回复
Speed & benchmark report: Maya-S DeepSeek-V4.1-Flash-1017 on 2× RTX PRO 5000 72GB, engine v1.1.41 with `--parallel 2` — 14h real agent-traffic concurrency soak
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 15/100

mw00/project-maya#719 · 2026年10月31日创建

维护者通常 1 天内回复
DeepSeek PROMPT_SKIP=2: the 128-row replay attends to window rows from before the replay start (left by earlier requests); masked, it is +37 % on 4K prompts here
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 12/100

mw00/project-maya#718 · 2026年10月31日创建

维护者通常 1 天内回复
DeepSeek on Linux: Engram reader threads default to 8 on a 16-thread host, and cold prompts read ~21 % faster with 32
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 45/100

mw00/project-maya#716 · 2 条评论 · 2026年10月31日创建

维护者通常 1 天内回复
DeepSeek: Unsloth UD-IQ1_M on RTX 4090 D / 128 GB, full RAM, 30.7 tok/s (v1.1.42 + #712 + #682)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 8/100

mw00/project-maya#713 · 2026年10月31日创建

维护者通常 1 天内回复
DS4_COPY_GB doesn't appear to work with EXL3
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 48/100

mw00/project-maya#708 · 2026年10月30日创建

维护者通常 1 天内回复
Speed report: 2x Quadro RTX 5000 16 GB (Turing, PCIe 3.0), Maya-S v1.1.39, 18.8 tokens/s decode
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 55/100

mw00/project-maya#707 · 2026年10月30日创建

维护者通常 1 天内回复
Qwen engine: after a client abandons a prompt read, every later request fails with "cancelled" until a restart (one-line fix: clear err per request)
未关闭
- 哪里不对？
难度 2/5 1-3 小时新手友好度 86/100

mw00/project-maya#703 · 2 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
Sampled decode (temperature > 0) is ~3.5x slower in v1.1.37+ while greedy decode is unaffected
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 45/100

mw00/project-maya#699 · 3 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
Speed report: 2x RTX 2080 Ti 22 GB (NVLink, 220 W), Ryzen 7 3700X, 93 GB — GLM Maya-S24 32 tok/s decode; one-chunk prefill runs the halves one after the other
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 30/100

mw00/project-maya#698 · 7 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
DeepSeek: the PCIe lane's decode check turned streaming off on an RTX 3090 where it is ~20-40% faster, and the times file keeps it for every later start
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

mw00/project-maya#697 · 2026年10月30日创建

维护者通常 1 天内回复
[AMD / v1.1.41 / #592] Dual R9700 exact peer transport works; faster TP2 prefill, layer split still faster for Maya-S abliterated
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

mw00/project-maya#694 · 1 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
ds4 v1.1.40 TP3 with most experts outside VRAM: the last-user-turn restore point adds 1-4 s to most agent turn reads (only the tail point is checked)
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 45/100

mw00/project-maya#693 · 1 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
DeepSeek at 1M: queued concurrent requests end with a `window ring` fault; loading takes 20-25 min so `TimeoutStartSec=1200` loops forever
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 48/100

mw00/project-maya#690 · 5 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
Speed report: 1x RTX PRO 6000 Blackwell 96 GB + Ryzen 9 9950X3D + 184 GB DDR5 - DeepSeek-V4.1-Flash EXL3 2.9 bpw @ 1M, 60.1 tok/s decode / 875 tok/s prefill (8K) (v1.1.40)
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 48/100

mw00/project-maya#689 · 1 条评论 · 2026年10月30日创建

维护者通常 1 天内回复
Speed report: 2x RX 6900 XT (gfx1030, RDNA 2) + 32 GB RAM, GLM-5.3 Maya-S24 works: 7.1 tok/s decode, 95 tok/s prefill
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 38/100

mw00/project-maya#681 · 2026年10月30日创建

维护者通常 1 天内回复
Speed report: 2x RTX 2080 Ti 22 GB (modded, NVLink), Xeon E5-2686 v4, 247 GB - Maya-M 22 tok/s decode, 533 prefill
未关闭
- 哪里不对？
难度 1/5 1 小时以内新手友好度 35/100

mw00/project-maya#675 · 2026年10月30日创建

维护者通常 1 天内回复
maya-mm3 (MiniMax M3.1 · Maya-XS) crashes with 0xC0000005 on the first request on Windows (RTX 4070 Ti SUPER + RTX 5070 Ti)
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 43/100

mw00/project-maya#672 · 3 条评论 · 2026年10月29日创建

维护者通常 1 天内回复
Full GLM-5.3 (glm-dsa) on the GLM engine
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 30/100

mw00/project-maya#661 · 1 个 reaction · 2026年10月29日创建

维护者通常 1 天内回复
Feature request: cross-model KV-cache handoff (SwaT, arXiv 2610.15095) - start with KV export/import
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 28/100

mw00/project-maya#655 · 2026年10月29日创建

维护者通常 1 天内回复
Maya-M on 2x RTX 2080 Ti (sm_75): non-finite router score at layer 17/18 on every request
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 45/100

mw00/project-maya#651 · 4 条评论 · 2026年10月29日创建

维护者通常 1 天内回复
v1.1.35/36: GLM prefill -43/-53% and DeepSeek prefill -47% with a real (large) max_tokens on a 20 GB card
未关闭
- 哪里不对？
难度 4/5 3-5 天新手友好度 35/100

mw00/project-maya#648 · 4 条评论 · 2026年10月29日创建

维护者通常 1 天内回复
DSV4 speed report
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 20/100

mw00/project-maya#633 · 2026年10月28日创建

维护者通常 1 天内回复
Speed report: 2x RTX PRO 6000 96 GB, MiniMax M3.1EXL3 3.5 bpw
未关闭
- 哪里不对？
难度 1/5 1 小时以内新手友好度 35/100

mw00/project-maya#610 · 2 条评论 · 2026年10月28日创建

维护者通常 1 天内回复
Qwen3.8-Flash-Next (CYBER-FROST) decodes ~40% slower on Maya than on Strata 0.2.7 with the same weights: the Qwen engine is still 0.1.27 (last synced from Strata 0.1.41, v1.0.13)
未关闭
- 哪里不对？
难度 5/5 一周以上新手友好度 35/100

mw00/project-maya#604 · 2026年10月28日创建

维护者通常 1 天内回复

mw00

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

哪里不对？

把新 issue 发到你的邮箱