[curriculum-eval] curriculum_assessment.py: checkpoint_quality — CHECKPOINT_RE misses `:white_check_mark:` headings, scoring 92 pages as 0
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 78/100
Hướng nghiên cứu
Bắt đầu với .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, đặc biệt là CHECKPOINT_RE và phần phát hiện has_prereq_section; so sánh các mẫu này với các tiêu đề trong workshop/04-github-actions-intro.md. Kiểm tra các regex khác dựa trên emoji trong cùng tệp, sau đó cập nhật các bài kiểm thử đơn vị liên quan. Hoàn tất khi các tiêu đề checkpoint và điều kiện tiên quyết dùng shortcode được phát hiện, đồng thời kết quả đánh giá cho trang workshop đó có checkpoint_quality dương.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py (affects all workshop/*.md)
Overall Score: n/a — rubric defect (corpus mean: 6.06)
Flagged Dimensions:
| Dimension | Score | Benchmark | Delta |
|---|---|---|---|
| checkpoint_quality | 0.0 on 92 of 92 learning pages | ≥ 4 items → 10 | −10 |
| scaffolding | 5.0 on pages that do have :clipboard: Before You Start |
10 | −5 (likely same cause) |
Root Cause (≤ 2 sentences):
CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) (line 10) matches only the literal emoji, but workshop files use the GitHub shortcode ## :white_check_mark: Checkpoint, as the repo conventions require. All 92 learning pages therefore score has_checkpoint: false and checkpoint_quality: 0, which also drives the false missing_checkpoint flag.
Evidence (quoted from the file):
workshop/04-github-actions-intro.mdline 138:## :white_check_mark: Checkpointfollowed by 5 checklist items. The rubric reportshas_checkpoint: false,checkpoint_quality: 0.0. A count of## :white_check_mark: Checkpointacrossworkshop/returns 92, which equals the number of pages flagged as missing.
Learning Science Rationale:
Formative assessment checkpoints support retrieval practice and give learners feedback (the testing effect, Roediger & Karpicke). A metric that reports zero checkpoints stops the evaluator from distinguishing pages that really lack them, and it hides real quality differences. The reported 2.0-weight penalty compresses all scores into roughly 4.9–8.6 and generates spurious "declining" trends (for example -2.00 on two pages).
Improvement Prompt (for an agent):
In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE so it matches both the literal emoji heading and the GitHub shortcode heading, e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint". Also check how the has_prereq_section / scaffolding detection matches "Before You Start" (the workshop uses "## :clipboard: Before You Start") and accept the ":clipboard:" shortcode as well as the emoji. Check any other emoji-based regexes in the file for the same shortcode mismatch. Update any unit tests, then re-run the assessment and confirm that pages such as workshop/04-github-actions-intro.md report has_checkpoint=true and checkpoint_quality > 0. Do not edit workshop content.
Expected Score After Fix: ~7.5 / 10.0 corpus mean (up from 6.06; the rubric's checkpoint weight is 2.0 of 12.0 and most pages have ≥ 4 items)
Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~48 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷
- expires on Oct 30, 2026, 4:05 AM UTC
- Ngôn ngữ chính
- JavaScript
- Star
- 56
- Fork
- 40
- Merge trung bình
- 2 ngày 15 giờ
- Pull request đã merge (30 ngày)
- 14
Chuẩn bị môi trường
Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của githubnext/gh-aw-workshop
-
feedback simulation workshop
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
githubnext/gh-aw-workshop#5157 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
feedback simulation workshop
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
githubnext/gh-aw-workshop#5156 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[workshop-sync] workshop/side-quest-13-02-pr-summary-pattern.md: agent job uses write permissionĐang mởdocumentation
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
githubnext/gh-aw-workshop#5153 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[workshop-sync] workshop/side-quest-13-01-pr-labeler-pattern.md: agent job uses write permissionĐang mởdocumentation
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
githubnext/gh-aw-workshop#5154 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
curriculum documentation quality
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
githubnext/gh-aw-workshop#5146 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của githubnext/gh-aw-workshop
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
-
agent bug
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
-
bug 🐛
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
comunica/comunica#1925 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
factory-active task-identify-harness-labels-done task-identify-issue-type-done
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
vercel/ai#24302 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày