feat(hook-manager): add Step P.3b eval suite for hook-manager shim skipping (#1838 follow-up)
Los mantenedores suelen responder en 1 día
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 82/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Bien especificado
- Estado de actividad
- Activo
- Stack tecnológico
- python
- Área
- ai-infra-agents, testing
Línea de trabajo
Empieza con los casos de evaluación en tools/skill-evals/evals/setup-isolated-setup-install/ y las instrucciones del paso P.3b en plugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md. Añade la suite step-hook-manager-shim para omitir la estrategia none, instalar prek, repositorios mixtos, repositorios no gestionados y el ámbito por proyecto. Ejecuta la suite de evaluación del comportamiento; estará terminada cuando esos casos verifiquen los resultados especificados del dispatcher y del shim instalado.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
What should happen
Add behavioral eval coverage in tools/skill-evals/evals/setup-isolated-setup-install/ for Step P.3b (Step-P prose) verifying that the agent skips copying shims to ~/.claude/bin/ for hook managers whose install strategy is none (simple-git-hooks, cargo-husky, git-code-format-maven-plugin, git-build-hook) and installs the shim exclusively for managers requiring an install fix (prek).
To ensure incremental review and zero external tool dependencies, this follow-up is structured into two parts:
- Part 1 (Immediate PR): Implement the
step-hook-manager-shimbehavioral eval suite insetup-isolated-setup-installcovering positive, negative (none-strategy skipping), mixed, and scope boundary cases. - Part 2 (Subsequent Follow-Up): Empirical execution of
git-code-format-maven-pluginandgit-build-hookunder the whole-user dispatcher in both main checkout and linked worktrees in an environment with JDK 17+ and Maven 3.9+, allowing documentation to drop the "from upstream source" qualifier.
Why
During the review and merge of PR #1838, maintainer @potiuk noted:
"test_none_strategy_generates_no_shim_case pins that the generated shim has no case for a none adapter. The decision that matters is the install step skipping those adapters, which lives in step-p's prose, so its real coverage would be an eval case for setup-isolated-setup-install. A run of the two Maven plugins under the dispatcher, in the main checkout and a linked worktree, would also let those bullets drop the "from upstream source" qualifier."
The generator test test_none_strategy_generates_no_shim_case pins that tools/agent-isolation/hook-manager-shim.sh contains no case statement for none adapters, but does not test the agent's decision-making during Step P.3b execution. Adding an eval suite pins this behavior against regression.
Which layer
Python package (tools/*/ with pyproject.toml)
Boundary conditions (optional)
- Negative skipping: Repositories using only
strategy: "none"adapters (simple-git-hooks,cargo-husky,git-code-format-maven-plugin,git-build-hook) must produceinstalled_shims: []. - Positive installation: Repositories using
prekmust produceinstalled_shims: ["prek"]. - Mixed repositories: Repositories combining
prekwithnoneadapters must selectively installinstalled_shims: ["prek"]. - Unmanaged repositories: Repositories without hook managers must produce
installed_shims: []. - Non-dispatcher scopes: When the operator selects
per-projectscope, Step P.3b must be skipped entirely (dispatcher_installed: false,installed_shims: []).
Out of scope (optional)
- Modifying
tools/hook-manager/registry.jsonor existing adapter definitions. - Running live Java/Maven execution (Part 2).
References (optional)
- Follow-up from PR #1838 (
feat(hook-manager): register managers that need no install fix (#1825)) tools/hook-manager/registry.jsonplugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md(Step P.3b)
- Lenguaje dominante
- Python
- Estrellas
- 124
- Forks
- 114
- Merge medio
- 14 h 39 min
- PR fusionados (30 d)
- 370
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de apache/magpie
-
Import skills use a security-issue-import vetted-ops caller that no policy template declaresPosiblemente ocupada @KatalKavya96 la tomó hace 8 días. Abiertogood first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
apache/magpie#1731 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
Los mantenedores suelen responder en 1 día
-
Add a proper Mailing List pageAbiertoenhancement
Dificultad 2/5 1-2 días Aptitud para principiantes 64/100
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
apache/magpie#1887 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
fix(agent-isolation): touch-overlay dismissals do not identify their signature preciselyPosiblemente ocupada @leninworld la tomó hoy. Abiertofamily:tools substrate:sandbox
Dificultad 4/5 1-2 días Aptitud para principiantes 56/100
Los mantenedores suelen responder en 1 día
Todos los issues de apache/magpie
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
microsoft/agent-lightning#661 ·
Los mantenedores suelen responder en 2 días
-
area/profiles comp/cli P3 type/feature
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
NousResearch/hermes-agent#146372 ·
Los mantenedores suelen responder en 1 día
-
[BUG] OpenAI-compatible embedding model alias breaks embedder constructionPosiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
Los mantenedores suelen responder en 1 día
-
[oblt-aw][autodoc] Document obs-aw-automerge contract and fix automerge doc inconsistenciesPosiblemente ocupada @github-actions la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
Los mantenedores suelen responder en 1 día
-
GeoSeries scale and skew tests fail with pytest 9.2.0Posiblemente ocupada @jiayuasu la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
Los mantenedores suelen responder en 1 día