[curriculum-eval] curriculum_assessment.py: checkpoint_quality — detector misses ":white_check_mark: Checkpoint" and ":clipboard: Before You Start

Offen Anfängerfreundlich
#5,745 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 1 Tag

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
2/5
Geschätzter Aufwand
1-3 Stunden
Anfängerfreundlichkeit
82/100
Issue-Typ
Bug
Klarheit
Klar beschrieben
Aktivitätsstatus
Aktiv
Tech-Stack
python
Bereich
tooling

Rechercherichtung

Öffne .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py und sieh dir CHECKPOINT_RE sowie die Funktion an, die has_prereq_section setzt; beide passen derzeit nur auf eine wörtliche Emoji-Überschrift. Erweitere die Muster so, dass sie die im Issue aufgeführten Shortcode- und Emoji-Varianten akzeptieren, prüfe dann, ob das Modul bereits eine Testdatei zum Erweitern hat, und füge Fälle für jede Überschriftenform hinzu. Fertig sieht so aus: Die Unit-Tests laufen durch und ein erneuter Lauf über workshop/ meldet has_checkpoint: true für 93+ Seiten, ohne dass Workshop-Inhalte bearbeitet wurden.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: n/a (affects 93/95 pages; corpus mean 6.06)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 93 pages ≥ 4 items → 10 −10
scaffolding 5.0 on 95 pages section present → 10 −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = r"##\s+✅\s*Checkpoint" requires the literal emoji, but workshop pages use the GitHub shortcode ## :white_check_mark: Checkpoint; likewise has_prereq_section is false for every page despite ## :clipboard: Before You Start. Only 2 pages (side-quest-13-01, side-quest-13-02) use the literal emoji, which is why they top the ranking at 8.4–8.6.

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE)

(e.g. workshop/04-github-actions-intro.md: ## :white_check_mark: Checkpoint followed by 5 checklist items, yet has_checkpoint: false)

Learning Science Rationale:
Valid measurement underpins any evidence-based evaluation: a rubric that scores a present formative-assessment checkpoint as zero misdirects improvement effort (Goodhart's law) and hides real gaps such as cognitive overload (Sweller) and low activity density behind a uniform ~2.75-point penalty.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match "## :white_check_mark: Checkpoint", "## ✅ Checkpoint" and "## ✅Checkpoint" (e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint"). Also update the prerequisite/scaffolding detection so headings like "## :clipboard: Before You Start", "## 📋 Before You Start" and "Prerequisites" all count. Add unit tests for each heading variant, rerun the assessment over workshop/, and confirm 93+ pages now report has_checkpoint=true. Do not edit workshop content.

Expected Score After Fix: ~8.6 / 10.0 corpus mean (≈ +2.5 per page; measurement fix only)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~40 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 16, 2026, 5:04 AM UTC
Vorherrschende Sprache
JavaScript
Sterne
62
Forks
43
Ø Merge
11 Std. 26 Min.
Gemergte PRs (30 T.)
13

Entwicklungsumgebung

In Codespaces öffnen

Startet den Dev-Container des Projekts im Browser, mit Ihrem eigenen GitHub-Konto.

  • Kein Dockerfile und keine Docker-Compose-Datei
  • Keine Pull-Request-Vorlage
  • Kein Beitragsleitfaden

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus githubnext/gh-aw-workshop

Alle Issues in githubnext/gh-aw-workshop

Ähnliche Issues

Weitere Issues zu JavaScript

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.