[curriculum-eval] curriculum_assessment.py: checkpoint_quality — regex misses :white_check_mark: headings, false 0.0 scores
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 2/5
- 見積もり時間
- 1〜3時間
- 初心者へのやさしさ
- 83/100
調査の方向性
.github/skills/curriculum-quantitative-assessment/curriculum_assessment.pyから始め、CHECKPOINT_REとcheckpoint_qualityに使われるチェックリスト項目のカウンターを調べてください。それらの動作を、指定されたワークショップページの:white_check_mark:見出しと比較してください。両方の見出し形式が認識され、セクション内のチェックリスト項目がカウントされ、列挙された5つのページにmissing_checkpointフラグが付かなくなれば完了です。
索引モデルが issue の本文から書いたものです。
説明
File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: 4.9 / 10.0 for the worst finding (corpus mean: 6.09)
Flagged Dimensions:
| Dimension | Score | Benchmark | Delta |
|---|---|---|---|
| checkpoint_quality | 0.0 | ≥ 4 items → 10 | −10.0 |
Root Cause (≤ 2 sentences):
CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint") only matches the emoji, while workshop files use the ## :white_check_mark: Checkpoint shortcode (required by AGENTS.md). All 5 worst-scored pages (e.g. 04-github-actions-intro.md, side-quest-01-02-environment-reference.md) have real checkpoints with 5–7 items but score 0.0, so missing_checkpoint flags are false positives.
Evidence (quoted from the file):
✅ Checkpoint
- You can identify
on,jobs, andstepsin a workflow file
Learning Science Rationale:
Retrieval-practice research (Roediger & Karpicke) supports end-of-step checkpoints, and the rubric should reward them. A metric that misses them mis-ranks content and sends remediation effort at pages that already follow the recommended pattern, undermining the evaluator's validity.
Improvement Prompt (for an agent):
In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE so it matches both "## ✅ Checkpoint" and "## :white_check_mark: Checkpoint" (case-insensitive). Also confirm the checklist-item counter for checkpoint_quality counts items inside that section. Re-run the assessment over workshop/*.md and confirm missing_checkpoint is no longer flagged for 04-github-actions-intro.md, 05-agentic-workflows-intro.md, side-quest-01-02-environment-reference.md, side-quest-11-06-anthropic-key.md and side-quest-17-07-repo-poisoning.md. Report the new corpus mean and the remaining lowest-scoring pages.
Expected Score After Fix: ~6.9 / 10.0 for the worst pages (checkpoint_quality 0 → 10 adds about +2.0 overall); corpus mean rises by a similar amount.
Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · 21.2 AIC · ⌖ 0.741 AIC · ⊞ 10.4K · ◷
- expires on Oct 22, 2026, 4:43 AM UTC
- 主要言語
- JavaScript
- スター
- 55
- フォーク
- 36
- 平均マージ
- 2日 6時間
- マージ済み PR(30日)
- 18
環境構築
このプロジェクトの開発コンテナを、あなたの GitHub アカウントでブラウザ上に起動します。
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
githubnext/gh-aw-workshop のほかの issue
-
documentation
難易度 1/5 1時間未満 初心者へのやさしさ 84/100
githubnext/gh-aw-workshop#4803 ·
メンテナーはふだん 1 日以内に返信
-
curriculum documentation quality
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
githubnext/gh-aw-workshop#4802 ·
メンテナーはふだん 1 日以内に返信
-
curriculum documentation quality
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
githubnext/gh-aw-workshop#4800 ·
メンテナーはふだん 1 日以内に返信
-
documentation guidelines
難易度 1/5 1時間未満 初心者へのやさしさ 90/100
githubnext/gh-aw-workshop#4670 ·
メンテナーはふだん 1 日以内に返信
-
[guidelines] side-quest-11-05-event-triggers.md: [!IMPORTANT] used for non-blocking informationオープンdocumentation guidelines
難易度 1/5 1時間未満 初心者へのやさしさ 83/100
githubnext/gh-aw-workshop#4669 ·
メンテナーはふだん 1 日以内に返信
githubnext/gh-aw-workshop の issue をすべて見る
似ている issue
-
correction via-web
難易度 2/5 1〜3時間 初心者へのやさしさ 67/100
ch-bas/cctv-camera-database#416 ·
メンテナーはふだん 1 日以内に返信
-
bug effort:medium model:light tests
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
メンテナーはふだん 1 日以内に返信
-
documentation help wanted
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
piskyRpapalo/preceptoros-web#231 ·
メンテナーはふだん 1 日以内に返信
-
type/bug type/docs type/enhancement
難易度 1/5 1時間未満 初心者へのやさしさ 86/100
Redo-San/RedoSan-Authenticity#574 ·
メンテナーはふだん 1 日以内に返信
-
Place search spins forever when nominatim fails対応中かも @jgt87 が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
anvaka/city-roads#213 ·