[curriculum-eval] curriculum_assessment.py: checkpoint_quality and scaffolding — regexes require emoji but workshop uses :shortcodes:

Chiusa Adatta ai principianti
  • Qualcosa non va?
#5,224 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 3 giorni

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
74/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
markdown, python
Ambito
devtools

Direzione di ricerca

Inizia in .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py alla definizione di CHECKPOINT_RE e alla regex has_prereq_section, che corrispondono solo ai titoli con emoji. Confrontale con ## :white_check_mark: Checkpoint in workshop/side-quest-01-02-environment-reference.md. È completato quando entrambi i titoli corrispondono, le altre regex con emoji letterali sono state verificate e la valutazione rieseguita assegna alle pagine con shortcode il punteggio corretto.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (tool-deflated)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 92/94 files ≥ 10 when ≥ 4 items −10
scaffolding 5.0 on 94/94 files 10 when section present −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE matches ##\s+✅\s*Checkpoint and the prereq check matches ##\s+📋\s*Before You Start, but the workshop (per AGENTS.md conventions) writes ## :white_check_mark: Checkpoint and ## :clipboard: Before You Start. Only side-quest-13-01 and side-quest-13-02 use the emoji form, so they score 8.4–8.6 while all other pages are capped at about 6.

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) ... re.search(r"##\s+📋\s*Before You Start", raw, re.IGNORECASE)

and in workshop/side-quest-01-02-environment-reference.md: ## :white_check_mark: Checkpoint (7 checklist items)

Learning Science Rationale:
Scores only guide curriculum improvement if they measure the construct. A systematic false negative on two weight-2.0/1.5 dimensions flattens the score distribution, so real outliers (long or concept-dense pages) are hidden. It also produces misleading "missing checkpoint" issues, and Kirkpatrick-style feedback loops only help when the measurement is valid. Retrieval-practice checkpoints (Roediger & Karpicke) are present in the content but go uncounted.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match both "## ✅ Checkpoint" and "## :white_check_mark: Checkpoint" (e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint"), and update the has_prereq_section regex to match both "## 📋 Before You Start" and "## :clipboard: Before You Start". Also check any other emoji-literal regexes in the file. Re-run the assessment, confirm side-quest-11-09 and side-quest-12-01 no longer swing by 2.00 between commits, and confirm no file with a "## :white_check_mark: Checkpoint" heading is reported has_checkpoint=false.

Expected Score After Fix: corpus mean about 8.0 / 10.0

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~43 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 2, 2026, 5:04 AM UTC
Lingua principale
JavaScript
Stelle
58
Fork
40
Merge medio
4g 4h
PR unite (30g)
8

Preparare l'ambiente

Apri in Codespaces

Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.

  • Nessun Dockerfile né file Docker Compose
  • Nessun modello di pull request
  • Nessuna guida per i contributori

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di githubnext/gh-aw-workshop

Tutte le issue di githubnext/gh-aw-workshop

Issue simili

Altre issue su JavaScript

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.