[curriculum-eval] curriculum_assessment.py: checkpoint_quality — emoji regex misses :white_check_mark: shortcodes (92/94 false negatives)

オープン 初心者向け
  • 何か問題がありますか？
#5,392 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 3 日以内に返信

まだ誰も着手していません。

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
78/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
github-actions, python
領域
testing

調査の方向性

.github/skills/curriculum-quantitative-assessment/curriculum_assessment.pyから始めて、CHECKPOINT_REと前提条件セクションの正規表現を調べてください。workshop/04-github-actions-intro.mdのショートコード見出しと比較してください。絵文字付き見出しとショートコード見出しの両方が検出され、記載されている「Prerequisites」見出しも含まれ、このワークショップページでチェックリスト項目が5つあるチェックポイントが報告されれば完了です。両方の見出し形式のテストを追加し、workshop/全体で評価を再実行してください。

索引モデルが issue の本文から書いたものです。

説明

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py (affects all workshop/*.md)
Overall Score: 4.9–5.4 / 10.0 for the 5 flagged pages (corpus mean: 6.06)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 ≥ 10 with ≥ 4 items −10.0
scaffolding 5.0 10 −5.0

Root Cause (≤ 2 sentences):
CHECKPOINT_RE matches the literal ✅ and the prereq regex matches the literal 📋, but workshop files use the GitHub shortcodes :white_check_mark: and :clipboard:. As a result 92/94 pages report has_checkpoint: false and 92/94 report has_prereq_section: false, deflating every score and producing false "missing_checkpoint" findings (e.g. 04-github-actions-intro.md).

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) vs. in workshop/04-github-actions-intro.md: ## :white_check_mark: Checkpoint followed by 5 checklist items.

Learning Science Rationale:
Measurement validity: a rubric tied to a rendering detail instead of structure misguides prioritisation. Checkpoints support retrieval practice (Roediger & Karpicke), so the real content gaps must be separated from detector artefacts; otherwise effort is spent on pages that already comply, while true gaps (e.g. side-quest-01-02-environment-reference.md length 1433 words, side-quest-17-07-repo-poisoning.md 23 new concepts) are hidden among noise.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match both "## ✅ Checkpoint" and "## :white_check_mark: Checkpoint", and update the has_prereq_section regex to match both "## 📋 Before You Start" and "## :clipboard: Before You Start" (plus "## Prerequisites"). Add unit tests covering both forms, re-run the assessment over workshop/, and confirm 04-github-actions-intro.md now reports has_checkpoint=true with 5 checklist items.

Expected Score After Fix: ~7.0 / 10.0 for the 5 flagged pages; corpus mean ≈ 7.5 / 10.0. After the fix, re-evaluate real gaps: side-quest-01-02-environment-reference.md (excessive length, low activity density 0.63), side-quest-17-07-repo-poisoning.md (23 concepts, 1234 words), side-quest-11-06-anthropic-key.md (26 concepts).

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~26 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 7, 2026, 3:30 AM UTC
主要言語
JavaScript
スター
58
フォーク
40
平均マージ
4日 4時間
マージ済み PR（30日）
8

環境構築

Codespaces で開く

このプロジェクトの開発コンテナを、あなたの GitHub アカウントでブラウザ上に起動します。

  • Dockerfile・Docker Compose ファイルなし
  • プルリクエストのテンプレートなし
  • コントリビューションガイドなし

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

githubnext/gh-aw-workshop のほかの issue

githubnext/gh-aw-workshop の issue をすべて見る

似ている issue

JavaScript の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。