planning evals: reorder-points case expects a MEDIUM blast radius and no reviewer dispatch, which main's plan skill cannot both satisfy

Đang mở Phù hợp với người mới
#17,039 4 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
66/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
shell
Lĩnh vực
ai-infra-agents

Hướng nghiên cứu

Đọc plugins/planning/skills/plan/SKILL.md trong mục “Reviewer” và so sánh với hai grader cùng fixture được nêu trong issue. Sau đó, kiểm tra các trường hợp plan-reviewer-cut liền kề từ #15465 để xem có cùng xung đột hay không. Cập nhật trường hợp này để cả hai grader phản ánh quy tắc đã được phát hành trên main, rồi xác minh qua ba lần chạy rằng cả hai đều đạt trong một lần chạy.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Problem

Two graders of the eval case plugins/planning/evals/plan-reviewer-cut-medium-reorder-points cannot both pass on main:

  • graders/blast-radius-medium.md requires the plan to rate the blast radius MEDIUM (pattern blast[ -]radius[^\n]{0,12}?\bMEDIUM\b).
  • graders/reviewer-not-dispatched.md requires that no plan-reviewer agent is dispatched (min: 0, max: 0, arm: both).
  • plugins/planning/skills/plan/SKILL.md ("Reviewer"): under auto the reviewer "runs when the Step 3b blast radius is MEDIUM or higher". The case's scaffold sets verification: standard (plugins/planning/evals/fixtures/plan-reviewer-cut/init-repo.sh), so a MEDIUM rating dispatches the reviewer.

Both graders came in #15465, written for a cut of the reviewer at MEDIUM. That cut did not ship: the reviewer stays on at MEDIUM until measured. In the run recorded for #16921, blast-radius-medium failed 3 of 3 runs and reviewer-not-dispatched passed 3 of 3. Each grader weighs 0.001, so no score moved, but the case's name no longer says what it exercises.

Options

  • (a) Drop max: 0 from reviewer-not-dispatched in this case, so it matches the shipped rule that MEDIUM runs the reviewer. Recommended (basis: plugins/planning/skills/plan/SKILL.md, "Reviewer").
  • (b) Retarget the case to LOW: rename it and change blast-radius-medium, if the scaffold's four changed files with a clean revert are meant to rate LOW (plugins/planning/skills/plan/context/stress-test-triggers.md rates 3 to 10 files MEDIUM and "Git revert works" lower).

Done when

  • Both graders can pass in one run on main's plan skill, and a run of 3 shows it.
  • The sibling plan-reviewer-cut cases from #15465 are checked for the same conflict.

Source: workshop 01 close-out audit.

Ngôn ngữ chính
Shell
Star
22
Fork
2
Merge trung bình
1 giờ 20 phút
Pull request đã merge (30 ngày)
952

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của melodic-software/claude-code-plugins

Tất cả issue của melodic-software/claude-code-plugins

Issue tương tự

Thêm issue về Shell/Bash

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.