[curriculum-eval] curriculum_assessment.py: checkpoint_quality — emoji regex misses :white_check_mark: shortcodes (92/94 false negatives)

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#5,392 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 3 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
78/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
github-actions, python
Lĩnh vực
testing

Hướng nghiên cứu

Bắt đầu với .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py và kiểm tra CHECKPOINT_RE cùng biểu thức chính quy của phần điều kiện tiên quyết. So sánh chúng với các tiêu đề shortcode trong workshop/04-github-actions-intro.md; hoàn tất khi cả tiêu đề có emoji và tiêu đề shortcode đều được phát hiện, bao gồm tiêu đề “Prerequisites” được liệt kê, và trang workshop đó báo cáo một checkpoint có 5 mục checklist. Thêm kiểm thử cho cả hai dạng tiêu đề và chạy lại quá trình đánh giá trên workshop/.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py (affects all workshop/*.md)
Overall Score: 4.9–5.4 / 10.0 for the 5 flagged pages (corpus mean: 6.06)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 ≥ 10 with ≥ 4 items −10.0
scaffolding 5.0 10 −5.0

Root Cause (≤ 2 sentences):
CHECKPOINT_RE matches the literal ✅ and the prereq regex matches the literal 📋, but workshop files use the GitHub shortcodes :white_check_mark: and :clipboard:. As a result 92/94 pages report has_checkpoint: false and 92/94 report has_prereq_section: false, deflating every score and producing false "missing_checkpoint" findings (e.g. 04-github-actions-intro.md).

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) vs. in workshop/04-github-actions-intro.md: ## :white_check_mark: Checkpoint followed by 5 checklist items.

Learning Science Rationale:
Measurement validity: a rubric tied to a rendering detail instead of structure misguides prioritisation. Checkpoints support retrieval practice (Roediger & Karpicke), so the real content gaps must be separated from detector artefacts; otherwise effort is spent on pages that already comply, while true gaps (e.g. side-quest-01-02-environment-reference.md length 1433 words, side-quest-17-07-repo-poisoning.md 23 new concepts) are hidden among noise.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match both "## ✅ Checkpoint" and "## :white_check_mark: Checkpoint", and update the has_prereq_section regex to match both "## 📋 Before You Start" and "## :clipboard: Before You Start" (plus "## Prerequisites"). Add unit tests covering both forms, re-run the assessment over workshop/, and confirm 04-github-actions-intro.md now reports has_checkpoint=true with 5 checklist items.

Expected Score After Fix: ~7.0 / 10.0 for the 5 flagged pages; corpus mean ≈ 7.5 / 10.0. After the fix, re-evaluate real gaps: side-quest-01-02-environment-reference.md (excessive length, low activity density 0.63), side-quest-17-07-repo-poisoning.md (23 concepts, 1234 words), side-quest-11-06-anthropic-key.md (26 concepts).

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~26 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 7, 2026, 3:30 AM UTC
Ngôn ngữ chính
JavaScript
Star
58
Fork
40
Merge trung bình
4 ngày 4 giờ
Pull request đã merge (30 ngày)
8

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.