Add a skill-triggering eval set (prompt to expected skill and MCP tool)

Ouverte
#55 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

Évaluation

Difficulté
3/5
Temps estimé
1-2 jours
Accessibilité débutants
58/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
Active
Stack technique
csharp, github-actions, json
Domaine
devtools, testing

Piste de recherche

Start by reading validate_plugin.py and the existing CI checks for skill descriptions and MCP tool references. Add evals/skill-triggers.json with at least two prompts per skill, then extend validation to check that referenced skills and tools exist. Done means the eval set passes in CI; document how to run it manually and record the hit rate when skill descriptions change.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

good first issue skills testing

Why it matters

Skill descriptions were rewritten as "Use when ..." triggers (closes #42), and CI now checks the wording and that every MCP tool is mentioned by a skill. Nothing checks that a real user prompt loads the right skill or leads to the right tool call.

Suggested approach

  • Add evals/skill-triggers.json with 2 or 3 prompts per skill, for example {"prompt": "my game stutters every few seconds", "skill": "performance-optimization", "tool": "lookup_api"}.
  • Have validate_plugin.py check the file's structure (every skill and tool named exists, every skill has at least one prompt).
  • Document how to run the set manually in Cursor (or with claude plugin eval / another host if one supports Cursor-style skills), and record the hit rate in the PR when descriptions change.

Done when

Every skill has at least two eval prompts and the set is validated in CI.

Langage dominant
C#
Étoiles
4
Forks
0
Métriques de merge des PR
Aucune PR mergée en 30 j

Préparer son environnement

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de TMHSDigital/Unity-Developer-Tools

Toutes les issues de TMHSDigital/Unity-Developer-Tools

Issues similaires

Plus d'issues C#

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.