Add a skill-triggering eval set (prompt to expected skill and MCP tool)

Aperta
#55 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
58/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
csharp, github-actions, json
Ambito
devtools, testing

Direzione di ricerca

Start by reading validate_plugin.py and the existing CI checks for skill descriptions and MCP tool references. Add evals/skill-triggers.json with at least two prompts per skill, then extend validation to check that referenced skills and tools exist. Done means the eval set passes in CI; document how to run it manually and record the hit rate when skill descriptions change.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

good first issue skills testing

Why it matters

Skill descriptions were rewritten as "Use when ..." triggers (closes #42), and CI now checks the wording and that every MCP tool is mentioned by a skill. Nothing checks that a real user prompt loads the right skill or leads to the right tool call.

Suggested approach

  • Add evals/skill-triggers.json with 2 or 3 prompts per skill, for example {"prompt": "my game stutters every few seconds", "skill": "performance-optimization", "tool": "lookup_api"}.
  • Have validate_plugin.py check the file's structure (every skill and tool named exists, every skill has at least one prompt).
  • Document how to run the set manually in Cursor (or with claude plugin eval / another host if one supports Cursor-style skills), and record the hit rate in the PR when descriptions change.

Done when

Every skill has at least two eval prompts and the set is validated in CI.

Lingua principale
C#
Stelle
4
Fork
0
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di TMHSDigital/Unity-Developer-Tools

Tutte le issue di TMHSDigital/Unity-Developer-Tools

Issue simili

Altre issue su C#

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.