1CatAI

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

• [Feature]: [SM70] Existing E4M3 attention routes cannot cover Yarn-expanded model windows

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1424 · Mở ngày 8/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][SM70] Image sets `TORCHINDUCTOR_CACHE_DIR=/tmp/torchinductor_vllm`, so the ~107 MB compile cache is lost on every container restart (~9 min cold start)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100

  1CatAI/1Cat-vLLM#1423 · Mở ngày 8/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][SM70][1.5.2] Prefix caching silently never hits with default cache geometry on hybrid GDN + `--mamba-cache-mode align` (20.1M queries, 0 hits)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

  1CatAI/1Cat-vLLM#1422 · Mở ngày 8/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug]: MambaManager (align) asserts num_required_blocks < len(req_blocks) with speculative decoding + async scheduling, EngineCore dies (needs vllm#39562)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100

  1CatAI/1Cat-vLLM#1419 · Mở ngày 7/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [SM70][DFlash2][TP4] Captured compact target-rejection graph produces degenerate output for any temperature > 0 (spec7, single request)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1409 · 3 bình luận · Mở ngày 7/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• SM70 TP4 + DFlash2 7 drafts: default probabilistic draft sampling produces degenerate output at temperature > 0

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 54/100

  1CatAI/1Cat-vLLM#1407 · 1 bình luận · Mở ngày 7/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug]: Non-MoE DP load imbalance: missing upstream fix #49204

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 55/100

  1CatAI/1Cat-vLLM#1405 · Mở ngày 6/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70] V2 EAGLE/MTP draft steps omit `seq_lens_cpu_upper_bound`, so Flash-V100 syncs `seq_lens.to("cpu")` on every draft step (+28% MTP-4 when passed)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 1-2 ngày Mức phù hợp với người mới 58/100

  1CatAI/1Cat-vLLM#1361 · Mở ngày 4/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70][DeepSeek-V4.1] Engram projection all-gather keeps two full copies (2 × 400 MiB per GPU at an 8K chunk); gathering row blocks is bit-identical

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

  1CatAI/1Cat-vLLM#1342 · Mở ngày 2/11/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Report] GLM-5.3-Flash EXL3 2.1 bpw on 4× V100-32GB (TP4): fixes, measurements and the configuration we run

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 12/100

  1CatAI/1Cat-vLLM#1337 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70] `apply_top_k_top_p_triton` synchronizes with the host on every call (`reference_rows.any()`) and clones the logits

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1336 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70][EXL3] Wide grouped prefill GEMV (32-slot groups) for #1102: bitwise equal to the 8-slot kernel, 1.4-2.2× per launch, +28-29% GLM-5.3 prefill

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 8/100

  1CatAI/1Cat-vLLM#1335 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70] Fused prefill indexer scorer (relu, head weight and head sum in registers, no fp32 score tile): 1.27-1.34× over `_prefill_logits_cublas`

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 8/100

  1CatAI/1Cat-vLLM#1334 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70][GLM-5.3] Sparse MLA prefill (`sm70_glm53_sparse_mla_fp8_out`, one split): a rewrite that keeps O in registers is 2.5-2.9× faster, +17% end-to-end prefill

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1333 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug]: [SM70] `sm70_f16_gemm_out` returns wrong values in the last N % 32 columns when N is not a multiple of 32 (no shape check in the op)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1332 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug]: `top_k_per_row_prefill` fills exactly tied logits at the cut in atomicAdd order, so the selected top-k set changes run to run (same logic on vLLM main)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 22/100

  1CatAI/1Cat-vLLM#1331 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug]: [Qwen3.8][DFlash2] Vision completely dropped when serving Qwen/Qwen3.8-27B with DFlash2 speculative decoding

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 32/100

  1CatAI/1Cat-vLLM#1329 · Mở ngày 31/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance] SM70 mHC Triton kernels recompile mid-request for new prefill tail lengths (token-count-dependent strides are specialized; 3-4 s per first-seen class)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 72/100

  1CatAI/1Cat-vLLM#1326 · Mở ngày 30/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug] sm70_draft_single_graph capture fails on GLM-5.3: FlashMLA-sparse token_to_req_indices pins memory during stream capture

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 54/100

  1CatAI/1Cat-vLLM#1324 · Mở ngày 30/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance] GLM-5.3 (glm5next) MTP drafter decode runs without CUDA graphs: VLLM_SM70_MTP_SPLIT_DRAFT_CUDAGRAPHS not auto-enabled (+10-26% decode when on)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

  1CatAI/1Cat-vLLM#1323 · Mở ngày 30/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Feature] DFlash2 for Qwen3.8 Flash-Next (Qwen4Exp): reference implementation available

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1302 · Mở ngày 28/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Report][SM70] Qwen3.8-Flash-Next NVFP4 on 4x V100-SXM2-32GB (NVLink), 1.5.1: 4 x 262K at util 0.92 in production; OOM at 0.95; KV offload stalls with Deferred and no error

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 38/100

  1CatAI/1Cat-vLLM#1285 · Mở ngày 28/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][SM70][TurboQuant]: `turboquant_k8v4` answers by repeating the question on some 48K prompts on one V100; `turboquant_4bit_nc` and fp16 answer correctly

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 42/100

  1CatAI/1Cat-vLLM#1283 · Mở ngày 27/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [SM70] Tracking: local patches and workarounds needed to run 1.5.1 in production (Qwen3.6-35B-A3B-AWQ, 4xV100 PCIe, TP4)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1268 · 1 bình luận · Mở ngày 26/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [SM70] 1.5.1 19-35% slower than 1.2.2 on Qwen3.6-35B-A3B-AWQ TP4: compact top-k/top-p sampler syncs every step; e5m2 XQA off for q_per_kv=4

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100

  1CatAI/1Cat-vLLM#1266 · 2 bình luận · Mở ngày 26/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][Qwen3.8-27b]: SM70 GQA architecture requires KV in [8192, 262144] with 32-token alignment, got 8160.

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1262 · 1 bình luận · Mở ngày 25/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][KV Offload][Qwen3.8] OffloadingConnector crashes EngineCore on pending transfer_jobs — upstream fix #46231

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1249 · 1 bình luận · Mở ngày 22/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Feature]: 能支持SystemOne模型吗？

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1239 · Mở ngày 20/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][Hybrid KV][LMCache] EngineCore crashes on failed KV loads / async completion (ValueError, AssertionError)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy
  bug

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1238 · Mở ngày 19/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][SM70][Qwen3.8][TP8] 双 NV2 岛 8 卡启动在 NCCL 初始化后卡住

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1224 · Mở ngày 16/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Perf][Qwen3.8-27B] Mixed prefill+decode: what decode rate survives a 96K–192K prefill with 6–8 concurrent sessions (4×V100-SXM2-32G, TP4)?

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1223 · Mở ngày 16/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug] TP2 on 2×V100-32GB: deterministic CUDA OOM during CUDA-graph capture (main post-1.5.1 build)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1220 · Mở ngày 15/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Community benchmark] 2× V100 PCIe 32GB TP2: QUASAR NVFP4 DFlash2 q7, 4K–256K, replay/shared cache and C1/C2/C4

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 28/100

  1CatAI/1Cat-vLLM#1202 · Mở ngày 13/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• SM70 (V100) TP4: --async-scheduling deadlocks with DFlash2 ngram_assist (GPU spin, no CUDA error)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1173 · Mở ngày 11/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Feature]: Is it possible to support Qwen3.8-Flash-Next on 8× Tesla V100 16GB?

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1158 · Mở ngày 10/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Performance][SM70] Flash-V100 D=128 prefill is 8-12% faster on long prompts with two small kernel changes (measured, bit-identical, reference patch)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1132 · Mở ngày 9/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Experiment] VLLM_SM70_AWQ_MLP_DOWN_TILE_OVERLAP + _AR: no perf change on 2x V100-PCIE (TP2, AWQ)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

  1CatAI/1Cat-vLLM#1106 · Mở ngày 8/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Feature][SM70][Qwen3.8]: Run the FP16 GEMV/HC/GDN-input lanes when Flash-Next is served with vision

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1100 · 1 bình luận · Mở ngày 8/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][FlashQLA][SM70]: NVRTC >= 12.8 writes its precompiled header into the working directory; unprivileged engines die in the GDN warmup

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

  1CatAI/1Cat-vLLM#1098 · Mở ngày 8/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Benchmark] Qwen3.8-27B NVFP4 on 1x V100-PCIE-32GB (TP1) vs llama.cpp: 1Cat ahead on concurrency and prefill, behind on single-stream decode

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#1087 · Mở ngày 8/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Benchmark] Qwen3.8-27B-AWQ-MTP on 2x V100-PCIE (TP2): MAX_SEQS scaling & single/multi-user throughput

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 38/100

  1CatAI/1Cat-vLLM#1043 · Mở ngày 8/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Perf Regression] main: concurrent throughput drops up to -59% vs v1.5.1 on V100 (cudagraph shapes truncated?)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1042 · Mở ngày 7/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• AutoRound W4A16 (per-expert GPTQ qweight) fails at fused_moe _load_w2 on SM70: packed 80 vs unpacked 640

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100

  1CatAI/1Cat-vLLM#1029 · Mở ngày 7/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Usage]: Is it possible to use only Two V100, and yes which model did you test

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#1027 · Mở ngày 7/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug][SM70][Qwen3.8] Retrieval correctness depends on max-num-batched-tokens / chunked-prefill boundaries

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100

  1CatAI/1Cat-vLLM#1003 · 2 bình luận · Mở ngày 6/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [V100/SM70] Kimi K2.5 Tower native-INT4 on 2×V100-SXM2: EDSQ subquant + vllm_volta plugin port

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

  1CatAI/1Cat-vLLM#987 · 2 bình luận · Mở ngày 5/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• Mixed-prefill latency control (#860): the 250 ms default stalls new long prompts ~10x on a MoE model over PCIe V100

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

  1CatAI/1Cat-vLLM#880 · Mở ngày 4/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug] SM70 MTP decode deadlocks with >=2 concurrent requests (Qwen3.8-Flash-Next NVFP4, TP4)

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#865 · Mở ngày 3/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Perf][SM70][PP=2] Disabling async scheduling gives +55% single-stream decode; SM70 async tuning is inert when pp_size > 1

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100

  1CatAI/1Cat-vLLM#852 · 2 bình luận · Mở ngày 3/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày

• [Bug]: [SM70][PP2] Native MTP4 over TP4xPP2: engine boots, first request triggers a device-side assert in the last-stage draft path

  Đang mở

  ⋯Báo cáo vấn đề với issue này

  • Có gì không ổn?

  • Đã có người nhận
  • Không phù hợp cho người mới
  • Đã cũ hoặc không hợp lệ
  • Vấn đề khác…
  • Gửi Hủy

  Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100

  1CatAI/1Cat-vLLM#836 · Mở ngày 3/10/2026

  Maintainer thường phản hồi trong vòng 1 ngày