test(work-items): triage eval 20 prompt should state that needs-human and work-class: untrusted-provenance exist
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 2/5
- Geschätzter Aufwand
- 1-3 Stunden
- Anfängerfreundlichkeit
- 76/100
- Issue-Typ
- Bug
- Klarheit
- Klar beschrieben
- Aktivitätsstatus
- Aktiv
- Tech-Stack
- json, shell
- Bereich
- ai-infra-agents, testing-qa
Rechercherichtung
Öffne plugins/work-items/skills/triage/evals/evals.json bei Fall 20 und prüfe die anderen Fälle, die die Labels needs-human und work-class: untrusted-provenance erwarten. Aktualisiere nur den Prompt von Fall 20 so, dass darin steht, dass alle vier Labels vorhanden sind; lasse die erwartete Ausgabe und die Erwartungen unverändert. Führe /skill-quality:check validate-evals triage aus; die Aufgabe ist abgeschlossen, wenn die Validierung erfolgreich ist und das Ergebnis der Plugin-Evaluierung dokumentiert oder als derzeit nicht möglich gekennzeichnet ist.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Problem
Triage eval case 20 (triage-signal-marker-applies-provenance-label, plugins/work-items/skills/triage/evals/evals.json:278) expects the outcome edit to apply work-class: untrusted-provenance and needs-human. Its prompt states only that "the labels provenance: signal and status: confirmed exist".
plugins/work-items/skills/triage/context/apply-outcome.md:44 requires a preflight before any autonomous-eligible outcome: verify all five canonical labels exist, and "if any are missing, stop without mutating and report remediation". The signal-marker paragraph (line 46) extends the preflight to work-class: untrusted-provenance ("when the repository lacks it, stop without mutating and report the provisioning gap"), and the status/provenance preflight (line 75) says to stop without mutating anything when a label is absent. A model that follows the preflight strictly, given a prompt that never says needs-human and work-class: untrusted-provenance exist, can stop on the missing-label branch instead of applying the C5 rule the case tests. The case would then fail for a reason unrelated to what it measures.
Fix
Add to case 20's prompt that the needs-human and work-class: untrusted-provenance labels exist, alongside the two labels already named. Leave expected_output and expectations unchanged. Check other cases that expect these labels for the same omission.
Done when
- Case 20's prompt names all four labels the outcome edit touches as existing.
/skill-quality:check validate-evals triagepasses.- A plugin-eval run of case 20 shows the model applying the C5 outcome rather than stopping on the preflight (or the run is recorded as not yet possible).
Refs: #7009
- Vorherrschende Sprache
- Shell
- Sterne
- 22
- Forks
- 2
- Ø Merge
- 8 Std. 34 Min.
- Gemergte PRs (30 T.)
- 946
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Keine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus melodic-software/claude-code-plugins
-
needs-human needs-triage
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
melodic-software/claude-code-plugins#7636 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
agent-ready needs-human
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 77/100
melodic-software/claude-code-plugins#7598 · 4 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
-
good first issue priority: low
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 62/100
melodic-software/claude-code-plugins#7530 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
needs-human priority: medium
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 65/100
melodic-software/claude-code-plugins#7455 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
priority: medium
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 68/100
melodic-software/claude-code-plugins#7351 · 2 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in melodic-software/claude-code-plugins
Ähnliche Issues
-
agent/quality help wanted origin/quality quality stage/010-actionable testing
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
hivecommons/hotshot#227 ·
Maintainer antworten meist innerhalb von 1 Tag
-
enhancement
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 74/100
sleeyax/promptfiles#20 ·
-
Add PhotocraftOffenenhancement
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 67/100
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 78/100
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 62/100