[curriculum-eval] curriculum_assessment.py: checkpoint_quality — regex misses :white_check_mark: shortcode, 92/94 pages scored as having no checkp

Aperta Adatta ai principianti
  • Qualcosa non va?
#5,667 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
62/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
github-actions, markdown, python
Ambito
documentation, tooling

Direzione di ricerca

Inizia da .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py e individua CHECKPOINT_RE e l'espressione regolare has_prereq_section, che corrispondono solo a emoji letterali. Controlla poi il suggerimento di Bloom activity:checkpoint e NUMBERED_HDR_RE per verificare se seguono lo stesso schema. Per la verifica usa workshop/04-github-actions-intro.md: la riga 138 usa lo shortcode ✅ e dovrebbe risultare has_checkpoint=true. È completato quando un test unitario con una fixture di shortcode passa e rieseguendo la valutazione il checkpoint risulta presente.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py (affects every workshop/*.md)
Overall Score: 6.06 / 10.0 corpus mean (threshold 5.52)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 92/94 pages ≥ 4 items → 10 −10
scaffolding 5.0 on nearly all pages 10 when section present −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = r"##\s+✅\s*Checkpoint" and the scaffolding regex ##\s+📋\s*Before You Start only match literal emoji, but the workshop (per AGENTS.md conventions) writes ## :white_check_mark: Checkpoint and ## :clipboard: Before You Start. Pages are therefore scored as lacking checkpoints and prerequisites despite having them, cutting ~2–3 points from each overall score.

Evidence (quoted from the file):

workshop/04-github-actions-intro.md line 138: ## :white_check_mark: Checkpoint followed by 5 checklist items (scored has_checkpoint: false, checkpoint_quality: 0.0); line 21: ## :clipboard: Before You Start (scored has_prereq_section: false).

Learning Science Rationale:
Valid measurement is a precondition for applying Bloom's, Cognitive Load, or Mayer-based feedback. A false-negative checkpoint metric hides the real signal (retrieval-practice checkpoints, per the testing effect, are present) and sends agents to "fix" pages that are fine, while masking real weaknesses such as low activity density and word count over 800 on side-quest-01-02-environment-reference.md and 05-agentic-workflows-intro.md.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match "## ✅ Checkpoint" OR "## :white_check_mark: Checkpoint" (e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint", re.IGNORECASE), and update the has_prereq_section regex to accept "## 📋 Before You Start" OR "## :clipboard: Before You Start" OR "## Prerequisites". Also check NUMBERED_HDR_RE/other emoji-dependent patterns and the Bloom "activity:checkpoint" cue use the same updated regex. Add a unit test with a fixture using the shortcode form. Re-run the assessment and confirm that pages like workshop/04-github-actions-intro.md report has_checkpoint=true and checkpoint_quality=10.

Expected Score After Fix: 8.0 / 10.0 corpus mean (up from 6.06)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~48 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 14, 2026, 6:04 AM UTC
Lingua principale
JavaScript
Stelle
62
Fork
43
Merge medio
1g 5h
PR unite (30g)
9

Preparare l'ambiente

Apri in Codespaces

Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.

  • Nessun Dockerfile né file Docker Compose
  • Nessun modello di pull request
  • Nessuna guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di githubnext/gh-aw-workshop

Tutte le issue di githubnext/gh-aw-workshop

Issue simili

Altre issue su JavaScript

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.