[curriculum-eval] curriculum_assessment.py: checkpoint_quality — regex misses :white_check_mark: and :clipboard: headings, penalising all pages

Geschlossen Anfängerfreundlich
  • Stimmt etwas nicht?
#5,437 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 3 Tagen

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
2/5
Geschätzter Aufwand
1-3 Stunden
Anfängerfreundlichkeit
77/100
Issue-Typ
Bug
Klarheit
Klar beschrieben
Aktivitätsstatus
Aktiv
Tech-Stack
github-actions, python
Bereich
testing, tooling

Rechercherichtung

Beginne mit .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, insbesondere mit CHECKPOINT_RE und der darin verwendeten Erkennung von Voraussetzungen und activity:checkpoint; sieh dir vorhandene Unit-Tests an. Aktualisiere die Muster so, dass sowohl Überschriften mit wörtlichen Emojis als auch mit GitHub-Shortcodes erkannt werden, und ## Prerequisites erhalten bleibt. Führe anschließend die Bewertung für workshop/*.md aus. Fertig ist die Aufgabe, wenn passende Überschriften erkannt und die falschen missing_checkpoint-Markierungen beseitigt sind; bearbeite keine Workshop-Inhalte.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (threshold 5.52)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 92 of 94 pages ≥ 4 items → 10 −10
scaffolding 5.0 on 94 of 94 pages 10 when "Before You Start" present −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = r"##\s+✅\s*Checkpoint" and the prereq regex ##\s+📋\s*Before You Start match only literal emoji, but workshop files use GitHub shortcodes (## :white_check_mark: Checkpoint, ## :clipboard: Before You Start). Every page loses about 2.0 × 10 (checkpoint) and 1.5 × 5 (scaffolding) weighted points, so scores cluster at 5–7 and the "missing_checkpoint" flag is meaningless.

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) (the page workshop/side-quest-11-06-anthropic-key.md has ## :white_check_mark: Checkpoint with 5 checklist items, yet has_checkpoint is false)

Learning Science Rationale:
Valid measurement is a precondition for acting on Bloom's-aligned assessment and cognitive-load findings: retrieval-practice checkpoints are a key scaffolding feature (Roediger and Karpicke's testing effect), and a rubric that scores them as absent on every page cannot discriminate good from poor steps. The false negatives also hide real gaps and produce spurious trend swings (for example the −2.00 "declines" on side-quest-11-09-agent-session-phases.md and side-quest-12-01-iterate-agent-output.md).

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE and the has_prereq_section regexes so they accept both the literal emoji and the GitHub shortcode forms: "## ✅ Checkpoint" / "## :white_check_mark: Checkpoint", and "## 📋 Before You Start" / "## :clipboard: Before You Start" (also keep "## Prerequisites"). Also update the Bloom "activity:checkpoint" detection that uses CHECKPOINT_RE. Add or update unit tests if present, rerun the assessment over workshop/*.md, and confirm has_checkpoint is true for pages with a Checkpoint heading and that the corpus mean rises accordingly. Do not edit workshop content.

Expected Score After Fix: ~7.5 / 10.0 corpus mean (checkpoint_quality and scaffolding recovered on most pages)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~46 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 8, 2026, 3:30 AM UTC
Vorherrschende Sprache
JavaScript
Sterne
58
Forks
40
Ø Merge
4 T. 4 Std.
Gemergte PRs (30 T.)
8

Entwicklungsumgebung

In Codespaces öffnen

Startet den Dev-Container des Projekts im Browser, mit Ihrem eigenen GitHub-Konto.

  • Kein Dockerfile und keine Docker-Compose-Datei
  • Keine Pull-Request-Vorlage
  • Kein Beitragsleitfaden

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus githubnext/gh-aw-workshop

Alle Issues in githubnext/gh-aw-workshop

Ähnliche Issues

Weitere Issues zu JavaScript

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.