perf(discovery): slice-only docs reads lose recall on scattered questions
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 42/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- markdown
- Lĩnh vực
- performance, search
Hướng nghiên cứu
Start from the artifact introduced in #6348: the shared docs lookup skill /discovery:read-docs and its escalate_bytes (default 60 KB) and section-count (25%) escalation rules, plus the Phase 6 acceptance kit, note, cache and grader used for the confirmation run. Identify where the thresholds and the slice-reading procedure live, then run the measured comparison of default vs. lower threshold vs. procedure nudge vs. combination, reporting n per arm and the same interval rule as the confirmation run. Done means the slice-only versus escalated recall gap closes within noise at acceptable bytes/tokens cost, or the null result is recorded and defaults kept.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
No related issue: measured follow-up to #6348 (part of #6020).
Summary
The shared docs lookup (/discovery:read-docs, #6348) returns verbatim sections and escalates to the whole page past a size or section-count threshold (escalate_bytes, default 60 KB; 25% of sections). The Phase 6 acceptance run showed that runs reading only slices lose recall on questions whose answer is scattered across a page:
- Slice-only runs: new-core recall .838 (n=4).
- Runs that escalated to the whole page: .927 (n=6).
- The worst slice-only run scored .74; it never read 3 scattered sections.
- The same direction appeared in the original batch (.93 vs .86).
The pre-registered confirmation passed (10 fresh runs, mean .891 vs the no-cache arm's .936, lower bound -.072 against a -.10 margin) and thresholds were kept at defaults, so this is an improvement, not a regression fix.
Fix
Candidates, each to be measured before adopting:
- Lower the
escalate_bytesthreshold so more reads return the whole page. - Add a procedure nudge: when a question spans many sections, read the whole page instead of slices.
Verification
- A measured comparison on the same acceptance kit (same questions, same note and cache, same grader) of the default, each candidate, and the combination.
- Acceptance: the slice-only versus escalated recall gap closes (target: slice-only runs within the noise of escalated runs) without losing the cost benefit, measured as bytes or tokens read per run against the current default. Report n per arm and use the same interval rule as the confirmation run.
- If neither candidate closes the gap at acceptable cost, record the result and keep the defaults.
Related
- #6020 (umbrella)
- #6348 (shared docs cache, fetcher,
/discovery:read-docs)
- Ngôn ngữ chính
- Shell
- Star
- 22
- Fork
- 2
- Merge trung bình
- 5 giờ 11 phút
- Pull request đã merge (30 ngày)
- 838
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của melodic-software/claude-code-plugins
-
good first issue needs-triage priority: medium
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
melodic-software/claude-code-plugins#6631 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
needs-triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
melodic-software/claude-code-plugins#6547 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
needs-triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
melodic-software/claude-code-plugins#6535 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
test_comment_census.py: SccArgv flag-shaped-filename test errors on Windows (#!/bin/sh scc shim)Đang mởgood first issue needs-triage priority: low
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
melodic-software/claude-code-plugins#6532 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
good first issue needs-triage priority: low
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
melodic-software/claude-code-plugins#6390 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của melodic-software/claude-code-plugins
Issue tương tự
-
status:needs-triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 1 ngày
-
documentation
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
alunduil/alunduil-chezmoi#874 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
enhancement
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
alunduil/zellij-claude-pair#53 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 77/100
FluidNumerics/fluid-walk-blocker#201 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
cao-evolution cao-evolution:compiler-security
Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 72/100
githubnext/gh-aw-cao#16895 ·
Maintainer thường phản hồi trong vòng 1 ngày