Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

test(BACKEND-GATE-ROCM-SGLANG): calibrate a Qwen3-4B correctness proposal

Đang mở
  • Có gì không ổn?
#3,077 3 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
28/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
cpp
Lĩnh vực
backend, machine-learning, testing-qa

Hướng nghiên cứu

Bắt đầu với .agents/specs/strix-qwen3-4b-distributional-calibration.md, sau đó kiểm tra public logits callback trong Ours6e3cbfb và các interface có tên LogitsProcessor của vLLM được ghim phiên bản. Xác minh các route đó bằng campaign production runner và các đồ thị trước khi triển khai chẩn đoán test-first. Hoàn tất nghĩa là đã review source-bound capture, mutation controls, oracle-only calibration evidence và một held-out proposal bằng văn bản mà không thay đổi strict gate.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Row: BACKEND-GATE-ROCM-SGLANG

Owner: current Strix campaign operator. Parent: #3053. Spec: .agents/specs/strix-qwen3-4b-distributional-calibration.md (commit before implementation).

Pinned production vLLMe126687a9a828d513c01a07cd69f025f27d63280 showed repeated greedy token differences on Qwen3-4B BF16 at c1 and c4. Qualification802b32c9, result SHA1d518a475a79947d9921be92e9893ed74a4831359063284524b3c32a0db4f400, remains NOT_ACCEPTED. User approved scoping a distributional correctness proposal, not numerical tolerances or replacement of the strict gate.

Implement reviewed diagnostic score capture through public incremental generation, not whole-prefix prefill scoring labeled as decode. Ours6e3cbfb exposes a public logits callback; pinned vLLM exposes named importable LogitsProcessor classes, JSON-compatible extra_args and full-vocabulary sample logprobs. Verify these routes execute with the campaign production runner/graphs before calibration. No serialized callables or eager correctness/performance substitution. Compare original prompts plus identical consumed continuation prefixes; capture scores before any forcing. Record actual scheduler shapes and instrumentation equivalence, not requested concurrency alone.

Predeclare oracle-only calibration and held-out validation before viewing candidate scores. Separate c1/c4 and first-prefill/incremental phases. Proposed thresholds, sample counts and statistical rule require subsequent explicit ratification. Existing CUDA/27B/quantized tolerances are not transferable. Stable oracle behavior remains token-exact. Enforce hard failures for prefix/tokenizer/dtype/model changes, nonfinite/missing scores, wrong execution phase, swapped rows, post-forcing capture and skipped callbacks; include corruption controls. A forced output match is not a correctness pass.

Acceptance: source-bound diagnostic design, test-first implementation, independent mutation review, operator leased equivalence and oracle-only evidence, and a written proposed gate with held-out results. This issue does not itself authorize adoption of a tolerance or acceptance of speed. Stop if instrumentation changes the relevant numerical path or production capture cannot be established; name the exact unresolved interface.

Ngôn ngữ chính
C++
Star
423
Fork
53
Merge trung bình
1 ngày 5 giờ
Pull request đã merge (30 ngày)
376

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của mudler/vllm.cpp

Tất cả issue của mudler/vllm.cpp

Issue tương tự

Thêm issue về C++

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.