[curriculum-eval] curriculum_assessment.py: checkpoint_quality and scaffolding — regexes miss :white_check_mark: / :clipboard: shortcodes
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 82/100
Hướng nghiên cứu
Bắt đầu với .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py và kiểm tra CHECKPOINT_RE cùng has_prereq_section; sau đó kiểm tra xem đã có bài kiểm thử nào chưa. So sánh các kết quả khớp của biểu thức chính quy với các tiêu đề shortcode được hiển thị trong issue và chạy đánh giá trên workshop/*.md. Hoàn thành khi cả hai tiêu đề shortcode đều được phát hiện và ## Prerequisites vẫn khớp.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (threshold 5.52) — scores are systematically understated
Flagged Dimensions:
| Dimension | Score | Benchmark | Delta |
|---|---|---|---|
| checkpoint_quality | 0.0 on 92/94 pages | ≥ 4 items → 10.0 | up to −10.0 (weight 2.0) |
| scaffolding | 5.0 on 94/94 pages | 10.0 when section present | −5.0 (weight 1.5) |
Root Cause (≤ 2 sentences):
CHECKPOINT_RE requires the literal ✅ emoji and has_prereq_section requires the literal 📋 emoji, but workshop pages use the GitHub shortcodes :white_check_mark: and :clipboard:. Every page therefore loses up to ~2.0 + 0.75 weighted points, and missing_checkpoint flags are false positives.
Evidence (quoted from the file):
CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE)...re.search(r"##\s+📋\s*Before You Start", raw, re.IGNORECASE)
while workshop/04-github-actions-intro.md contains ## :clipboard: Before You Start and ## :white_check_mark: Checkpoint with 5 checklist items.
Learning Science Rationale:
Metrics used to steer instructional design must be valid measures of the construct they claim to measure. Retrieval-practice checkpoints (Roediger & Karpicke) and advance-organizer scaffolding (Ausubel) are both present in the workshop, but the rubric reports them as absent, which would push agents to "fix" content that is not broken and hides real issues (length, concept load).
Improvement Prompt (for an agent):
In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match both the emoji and shortcode forms, e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint", and update has_prereq_section so "Before You Start" matches both "📋" and ":clipboard:" (and still matches "## Prerequisites"). Add/extend tests if any exist. Re-run the assessment over workshop/*.md and confirm has_checkpoint is true for pages containing "## :white_check_mark: Checkpoint" and has_prereq_section is true for pages containing "## :clipboard: Before You Start". Do not edit workshop content.
Expected Score After Fix: corpus mean ≈ 7.5–8.0 / 10.0 (checkpoint and scaffolding dimensions recover for nearly all pages)
Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~47 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷
- expires on Oct 30, 2026, 3:35 AM UTC
- Ngôn ngữ chính
- JavaScript
- Star
- 56
- Fork
- 40
- Merge trung bình
- 2 ngày 7 giờ
- Pull request đã merge (30 ngày)
- 16
Chuẩn bị môi trường
Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của githubnext/gh-aw-workshop
-
curriculum documentation quality
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
githubnext/gh-aw-workshop#5105 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
curriculum documentation quality
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 77/100
githubnext/gh-aw-workshop#5104 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
curriculum documentation quality
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
githubnext/gh-aw-workshop#5100 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Markdown lint failure on mainĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
githubnext/gh-aw-workshop#3109 · 11 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
accessibility bug
Độ khó 2/5 1-2 ngày Mức phù hợp với người mới 68/100
githubnext/gh-aw-workshop#2744 · 10 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của githubnext/gh-aw-workshop
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
wazuh/wazuh-documentation#10584 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
documentation good first issue
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 94/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
InukaAsith/TwinDesk#84 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
Graphify-Labs/graphify#4860 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
CommandCodeAI/command-code#1088 ·
Maintainer thường phản hồi trong vòng 2 ngày