Add a skill-triggering eval set (prompt to expected skill and MCP tool)
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 58/100
Direzione di ricerca
Start by reading validate_plugin.py and the existing CI checks for skill descriptions and MCP tool references. Add evals/skill-triggers.json with at least two prompts per skill, then extend validation to check that referenced skills and tools exist. Done means the eval set passes in CI; document how to run it manually and record the hit rate when skill descriptions change.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Why it matters
Skill descriptions were rewritten as "Use when ..." triggers (closes #42), and CI now checks the wording and that every MCP tool is mentioned by a skill. Nothing checks that a real user prompt loads the right skill or leads to the right tool call.
Suggested approach
- Add
evals/skill-triggers.jsonwith 2 or 3 prompts per skill, for example{"prompt": "my game stutters every few seconds", "skill": "performance-optimization", "tool": "lookup_api"}. - Have
validate_plugin.pycheck the file's structure (every skill and tool named exists, every skill has at least one prompt). - Document how to run the set manually in Cursor (or with
claude plugin eval/ another host if one supports Cursor-style skills), and record the hit rate in the PR when descriptions change.
Done when
Every skill has at least two eval prompts and the set is validated in CI.
- Lingua principale
- C#
- Stelle
- 4
- Fork
- 0
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di TMHSDigital/Unity-Developer-Tools
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
-
ci priority: low skills
Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100
-
ci priority: medium testing
Difficoltà 4/5 1-2 giorni Idoneità per principianti 57/100
-
documentation marketing priority: medium
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
community documentation priority: medium
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
Tutte le issue di TMHSDigital/Unity-Developer-Tools
Issue simili
-
type:task ux
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
elsa-workflows/elsa-foundation#5253 ·
I maintainer di solito rispondono entro 1 giorno