feat(hook-manager): add Step P.3b eval suite for hook-manager shim skipping (#1838 follow-up)
Maintainer thường phản hồi trong vòng 1 ngày
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 82/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- python
- Lĩnh vực
- ai-infra-agents, testing
Hướng nghiên cứu
Bắt đầu với các trường hợp đánh giá trong tools/skill-evals/evals/setup-isolated-setup-install/ và hướng dẫn Step P.3b trong plugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md. Thêm bộ kiểm thử step-hook-manager-shim cho việc bỏ qua khi dùng chiến lược none, cài đặt prek, các repository hỗn hợp, repository không được quản lý và phạm vi theo từng dự án. Chạy bộ đánh giá hành vi; hoàn tất khi các trường hợp đó xác nhận kết quả dispatcher và shim đã cài đặt như được chỉ định.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
What should happen
Add behavioral eval coverage in tools/skill-evals/evals/setup-isolated-setup-install/ for Step P.3b (Step-P prose) verifying that the agent skips copying shims to ~/.claude/bin/ for hook managers whose install strategy is none (simple-git-hooks, cargo-husky, git-code-format-maven-plugin, git-build-hook) and installs the shim exclusively for managers requiring an install fix (prek).
To ensure incremental review and zero external tool dependencies, this follow-up is structured into two parts:
- Part 1 (Immediate PR): Implement the
step-hook-manager-shimbehavioral eval suite insetup-isolated-setup-installcovering positive, negative (none-strategy skipping), mixed, and scope boundary cases. - Part 2 (Subsequent Follow-Up): Empirical execution of
git-code-format-maven-pluginandgit-build-hookunder the whole-user dispatcher in both main checkout and linked worktrees in an environment with JDK 17+ and Maven 3.9+, allowing documentation to drop the "from upstream source" qualifier.
Why
During the review and merge of PR #1838, maintainer @potiuk noted:
"test_none_strategy_generates_no_shim_case pins that the generated shim has no case for a none adapter. The decision that matters is the install step skipping those adapters, which lives in step-p's prose, so its real coverage would be an eval case for setup-isolated-setup-install. A run of the two Maven plugins under the dispatcher, in the main checkout and a linked worktree, would also let those bullets drop the "from upstream source" qualifier."
The generator test test_none_strategy_generates_no_shim_case pins that tools/agent-isolation/hook-manager-shim.sh contains no case statement for none adapters, but does not test the agent's decision-making during Step P.3b execution. Adding an eval suite pins this behavior against regression.
Which layer
Python package (tools/*/ with pyproject.toml)
Boundary conditions (optional)
- Negative skipping: Repositories using only
strategy: "none"adapters (simple-git-hooks,cargo-husky,git-code-format-maven-plugin,git-build-hook) must produceinstalled_shims: []. - Positive installation: Repositories using
prekmust produceinstalled_shims: ["prek"]. - Mixed repositories: Repositories combining
prekwithnoneadapters must selectively installinstalled_shims: ["prek"]. - Unmanaged repositories: Repositories without hook managers must produce
installed_shims: []. - Non-dispatcher scopes: When the operator selects
per-projectscope, Step P.3b must be skipped entirely (dispatcher_installed: false,installed_shims: []).
Out of scope (optional)
- Modifying
tools/hook-manager/registry.jsonor existing adapter definitions. - Running live Java/Maven execution (Part 2).
References (optional)
- Follow-up from PR #1838 (
feat(hook-manager): register managers that need no install fix (#1825)) tools/hook-manager/registry.jsonplugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md(Step P.3b)
- Ngôn ngữ chính
- Python
- Star
- 124
- Fork
- 114
- Merge trung bình
- 14 giờ 39 phút
- Pull request đã merge (30 ngày)
- 370
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của apache/magpie
-
Import skills use a security-issue-import vetted-ops caller that no policy template declaresCó thể đã có người làm @KatalKavya96 đã nhận 8 ngày trước. Đang mởgood first issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
apache/magpie#1731 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Add a proper Mailing List pageĐang mởenhancement
Độ khó 2/5 1-2 ngày Mức phù hợp với người mới 64/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 48/100
apache/magpie#1887 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
fix(agent-isolation): touch-overlay dismissals do not identify their signature preciselyCó thể đã có người làm @leninworld đã nhận hôm nay. Đang mởfamily:tools substrate:sandbox
Độ khó 4/5 1-2 ngày Mức phù hợp với người mới 56/100
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của apache/magpie
Issue tương tự
-
app: scripts status: backlog type: documentation
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
netbox-community/netbox-scripts#68 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 91/100
marin-community/marin#10765 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 70/100
flathub/com.unity.UnityHub#230 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Claiming namespace `lang2hong`Đang mởnamespace operations
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 63/100
EclipseFdn/open-vsx.org#14910 ·
Maintainer thường phản hồi trong vòng 1 ngày