feat(hook-manager): add Step P.3b eval suite for hook-manager shim skipping (#1838 follow-up)
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 82/100
- issue の種類
- 機能追加
- 明瞭さ
- 明確に書かれている
- 活発さ
- 活発
- 技術スタック
- python
調査の方向性
tools/skill-evals/evals/setup-isolated-setup-install/ の評価ケースと、plugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md の Step P.3b の手順から始めてください。none 戦略でのスキップ、prek のインストール、混在リポジトリ、管理対象外のリポジトリ、プロジェクトごとのスコープを対象とする step-hook-manager-shim スイートを追加してください。動作評価スイートを実行してください。これらのケースが指定された dispatcher とインストール済み shim の結果を検証すれば完了です。
索引モデルが issue の本文から書いたものです。
説明
What should happen
Add behavioral eval coverage in tools/skill-evals/evals/setup-isolated-setup-install/ for Step P.3b (Step-P prose) verifying that the agent skips copying shims to ~/.claude/bin/ for hook managers whose install strategy is none (simple-git-hooks, cargo-husky, git-code-format-maven-plugin, git-build-hook) and installs the shim exclusively for managers requiring an install fix (prek).
To ensure incremental review and zero external tool dependencies, this follow-up is structured into two parts:
- Part 1 (Immediate PR): Implement the
step-hook-manager-shimbehavioral eval suite insetup-isolated-setup-installcovering positive, negative (none-strategy skipping), mixed, and scope boundary cases. - Part 2 (Subsequent Follow-Up): Empirical execution of
git-code-format-maven-pluginandgit-build-hookunder the whole-user dispatcher in both main checkout and linked worktrees in an environment with JDK 17+ and Maven 3.9+, allowing documentation to drop the "from upstream source" qualifier.
Why
During the review and merge of PR #1838, maintainer @potiuk noted:
"test_none_strategy_generates_no_shim_case pins that the generated shim has no case for a none adapter. The decision that matters is the install step skipping those adapters, which lives in step-p's prose, so its real coverage would be an eval case for setup-isolated-setup-install. A run of the two Maven plugins under the dispatcher, in the main checkout and a linked worktree, would also let those bullets drop the "from upstream source" qualifier."
The generator test test_none_strategy_generates_no_shim_case pins that tools/agent-isolation/hook-manager-shim.sh contains no case statement for none adapters, but does not test the agent's decision-making during Step P.3b execution. Adding an eval suite pins this behavior against regression.
Which layer
Python package (tools/*/ with pyproject.toml)
Boundary conditions (optional)
- Negative skipping: Repositories using only
strategy: "none"adapters (simple-git-hooks,cargo-husky,git-code-format-maven-plugin,git-build-hook) must produceinstalled_shims: []. - Positive installation: Repositories using
prekmust produceinstalled_shims: ["prek"]. - Mixed repositories: Repositories combining
prekwithnoneadapters must selectively installinstalled_shims: ["prek"]. - Unmanaged repositories: Repositories without hook managers must produce
installed_shims: []. - Non-dispatcher scopes: When the operator selects
per-projectscope, Step P.3b must be skipped entirely (dispatcher_installed: false,installed_shims: []).
Out of scope (optional)
- Modifying
tools/hook-manager/registry.jsonor existing adapter definitions. - Running live Java/Maven execution (Part 2).
References (optional)
- Follow-up from PR #1838 (
feat(hook-manager): register managers that need no install fix (#1825)) tools/hook-manager/registry.jsonplugins/magpie-setup/skills/isolated-setup-install/step-p-sandbox-allowlists.md(Step P.3b)
- 主要言語
- Python
- スター
- 124
- フォーク
- 114
- 平均マージ
- 14時間 39分
- マージ済み PR（30日）
- 370
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
apache/magpie のほかの issue
-
Import skills use a security-issue-import vetted-ops caller that no policy template declares対応中かも @KatalKavya96 が 10 日前に担当しました。 オープンgood first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
apache/magpie#1731 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 88/100
メンテナーはふだん 1 日以内に返信
-
enhancement
難易度 2/5 1〜2日 初心者へのやさしさ 64/100
メンテナーはふだん 1 日以内に返信
-
難易度 4/5 3〜5日 初心者へのやさしさ 48/100
apache/magpie#1887 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
fix(agent-isolation): touch-overlay dismissals do not identify their signature precisely対応中かも @leninworld が 2 日前に担当しました。 オープンfamily:tools substrate:sandbox
難易度 4/5 1〜2日 初心者へのやさしさ 56/100
メンテナーはふだん 1 日以内に返信
似ている issue
-
getchaintips leaves out the active tip once a header is staged on it, where Core always lists itオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
btclib-org/btclib-node#2158 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
dbt-msft/dbt-sqlserver#897 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
Gathin23/cleanyourtv#2770 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
vllm-project/vllm#64845 ·
メンテナーはふだん 1 日以内に返信
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
dekobon/big-code-analysis#1729 ·
メンテナーはふだん 1 日以内に返信