feat(hook-manager): add Step P.3b eval suite for hook-manager shim skipping (#1838 follow-up)
I maintainer di solito rispondono entro 1 giorno
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 82/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- python
- Ambito
- ai-infra-agents, testing
Direzione di ricerca
Inizia con i casi di valutazione in tools/skill-evals/evals/setup-isolated-setup-install/ e le istruzioni dello Step P.3b in plugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md. Aggiungi la suite step-hook-manager-shim per l’esclusione con la strategia none, l’installazione di prek, repository misti, repository non gestiti e ambito per progetto. Esegui la suite di valutazione comportamentale; è completata quando questi casi verificano i risultati specificati per il dispatcher e lo shim installato.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
What should happen
Add behavioral eval coverage in tools/skill-evals/evals/setup-isolated-setup-install/ for Step P.3b (Step-P prose) verifying that the agent skips copying shims to ~/.claude/bin/ for hook managers whose install strategy is none (simple-git-hooks, cargo-husky, git-code-format-maven-plugin, git-build-hook) and installs the shim exclusively for managers requiring an install fix (prek).
To ensure incremental review and zero external tool dependencies, this follow-up is structured into two parts:
- Part 1 (Immediate PR): Implement the
step-hook-manager-shimbehavioral eval suite insetup-isolated-setup-installcovering positive, negative (none-strategy skipping), mixed, and scope boundary cases. - Part 2 (Subsequent Follow-Up): Empirical execution of
git-code-format-maven-pluginandgit-build-hookunder the whole-user dispatcher in both main checkout and linked worktrees in an environment with JDK 17+ and Maven 3.9+, allowing documentation to drop the "from upstream source" qualifier.
Why
During the review and merge of PR #1838, maintainer @potiuk noted:
"test_none_strategy_generates_no_shim_case pins that the generated shim has no case for a none adapter. The decision that matters is the install step skipping those adapters, which lives in step-p's prose, so its real coverage would be an eval case for setup-isolated-setup-install. A run of the two Maven plugins under the dispatcher, in the main checkout and a linked worktree, would also let those bullets drop the "from upstream source" qualifier."
The generator test test_none_strategy_generates_no_shim_case pins that tools/agent-isolation/hook-manager-shim.sh contains no case statement for none adapters, but does not test the agent's decision-making during Step P.3b execution. Adding an eval suite pins this behavior against regression.
Which layer
Python package (tools/*/ with pyproject.toml)
Boundary conditions (optional)
- Negative skipping: Repositories using only
strategy: "none"adapters (simple-git-hooks,cargo-husky,git-code-format-maven-plugin,git-build-hook) must produceinstalled_shims: []. - Positive installation: Repositories using
prekmust produceinstalled_shims: ["prek"]. - Mixed repositories: Repositories combining
prekwithnoneadapters must selectively installinstalled_shims: ["prek"]. - Unmanaged repositories: Repositories without hook managers must produce
installed_shims: []. - Non-dispatcher scopes: When the operator selects
per-projectscope, Step P.3b must be skipped entirely (dispatcher_installed: false,installed_shims: []).
Out of scope (optional)
- Modifying
tools/hook-manager/registry.jsonor existing adapter definitions. - Running live Java/Maven execution (Part 2).
References (optional)
- Follow-up from PR #1838 (
feat(hook-manager): register managers that need no install fix (#1825)) tools/hook-manager/registry.jsonplugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md(Step P.3b)
- Lingua principale
- Python
- Stelle
- 124
- Fork
- 114
- Merge medio
- 14h 39m
- PR unite (30g)
- 370
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di apache/magpie
-
Import skills use a security-issue-import vetted-ops caller that no policy template declaresForse già presa @KatalKavya96 l’ha presa 8 giorni fa. Apertagood first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
apache/magpie#1731 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 88/100
I maintainer di solito rispondono entro 1 giorno
-
enhancement
Difficoltà 2/5 1-2 giorni Idoneità per principianti 64/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
apache/magpie#1887 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
fix(agent-isolation): touch-overlay dismissals do not identify their signature preciselyForse già presa @leninworld l’ha presa oggi. Apertafamily:tools substrate:sandbox
Difficoltà 4/5 1-2 giorni Idoneità per principianti 56/100
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di apache/magpie
Issue simili
-
area/profiles comp/cli P3 type/feature
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
NousResearch/hermes-agent#146372 ·
I maintainer di solito rispondono entro 1 giorno
-
[BUG] OpenAI-compatible embedding model alias breaks embedder constructionForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
I maintainer di solito rispondono entro 1 giorno
-
[oblt-aw][autodoc] Document obs-aw-automerge contract and fix automerge doc inconsistenciesForse già presa @github-actions l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 1 giorno
-
GeoSeries scale and skew tests fail with pytest 9.2.0Forse già presa @jiayuasu l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
I maintainer di solito rispondono entro 1 giorno
-
admission-deferred priority: medium status: ready work-class: scoped
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
melodic-software/claude-code-plugins#10887 · 4 commenti ·
I maintainer di solito rispondono entro 1 giorno