[curriculum-eval] curriculum_assessment.py: checkpoint_quality — regex misses :white_check_mark: shortcode, 92/94 pages falsely flagged
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
.github/skills/curriculum-quantitative-assessment/curriculum_assessment.py を読み、CHECKPOINT_RE と prereq regex を特定せよ。説明の通り、絵文字と GitHub ショートコードの見出し形式の両方に一致するように更新し、その後 workshop/ に対して評価を再実行し、04-github-actions-intro.md の has_checkpoint が上昇するコーパス平均で true であることを確認せよ。両方の見出し形式の単体テストを追加せよ。
索引モデルが issue の本文から書いたものです。
説明
File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (depressed by scorer defect)
Flagged Dimensions:
| Dimension | Score | Benchmark | Delta |
|---|---|---|---|
| checkpoint_quality | 0.0 on 92/94 pages | ≥ 7.5 | −7.5 |
| scaffolding | 5.0 on most pages | 10 | −5.0 |
Root Cause (≤ 2 sentences):
CHECKPOINT_RE matches ##\s+✅\s*Checkpoint and the prerequisite check matches ##\s+📋\s*Before You Start, but workshop files write these headings with GitHub shortcodes (## :white_check_mark: Checkpoint, ## :clipboard: Before You Start). Every page is therefore scored as missing both, which drags scores by about 2–3 points and triggers missing_checkpoint on 92 of 94 pages.
Evidence (quoted from the file):
workshop/04-github-actions-intro.mdline 138:## :white_check_mark: Checkpointfollowed by 5 checklist items — yet its metrics reporthas_checkpoint: false,checkpoint_quality: 0.0.
Scorer: CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE)
Learning Science Rationale:
Valid measurement underpins any evidence-based review: a rubric with a systematic false negative produces misleading prioritisation (for example, the −2.00 "declines" on side-quest-11-09 and side-quest-12-01 likely reflect heading-format changes rather than learning quality). Fixing the detector lets Cognitive Load, Mayer's segmenting and retrieval-practice signals (checkpoints) be evaluated on real differences.
Improvement Prompt (for an agent):
In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match both the emoji and shortcode forms, e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint", and update the has_prereq_section regex to match r"##\s+(?:📋|:clipboard:)\s*Before You Start" (also accept a "Prerequisites" heading). Also check CHECKLIST_RE and any other emoji-dependent patterns for shortcode equivalents. Re-run the assessment against workshop/ and confirm has_checkpoint is true for 04-github-actions-intro.md and that corpus mean rises. Add a small unit test covering both heading forms.
Expected Score After Fix: ~8.3 / 10.0 corpus mean (checkpoint +2.0 weight × ~8 and scaffolding +1.5 × 5 on most pages)
Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~42 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷
- expires on Oct 26, 2026, 5:07 AM UTC
- 主要言語
- JavaScript
- スター
- 55
- フォーク
- 36
- 平均マージ
- 2日 8時間
- マージ済み PR(30日)
- 17
環境構築
このプロジェクトの開発コンテナを、あなたの GitHub アカウントでブラウザ上に起動します。
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
githubnext/gh-aw-workshop のほかの issue
-
[workshop-sim] Improve: Strengthen practice and checkpoints in Step 05 (What Are Agentic Workflows?)オープンfeedback simulation workshop
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
githubnext/gh-aw-workshop#4972 ·
メンテナーはふだん 1 日以内に返信
-
feedback simulation workshop
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
githubnext/gh-aw-workshop#4971 ·
メンテナーはふだん 1 日以内に返信
-
curriculum documentation quality
難易度 2/5 半日 初心者へのやさしさ 85/100
githubnext/gh-aw-workshop#4966 ·
メンテナーはふだん 1 日以内に返信
-
curriculum documentation quality
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
githubnext/gh-aw-workshop#4964 ·
メンテナーはふだん 1 日以内に返信
-
curriculum documentation quality
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
githubnext/gh-aw-workshop#4965 ·
メンテナーはふだん 1 日以内に返信
githubnext/gh-aw-workshop の issue をすべて見る
似ている issue
-
Link Checker Reportオープンautomated issue report
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 70/100
microsoft/playwright#43640 ·
メンテナーはふだん 1 日以内に返信
-
✏️ Editing - Tags
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
openfoodfacts/openfoodfacts-server#15127 ·
メンテナーはふだん 1 日以内に返信
-
enhancement good first issue hacktoberfest help wanted
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
Andbal23/dynamic-music-pill#195 ·
メンテナーはふだん 1 日以内に返信