[curriculum-eval] curriculum_assessment.py: checkpoint_quality — detector misses ":white_check_mark: Checkpoint" and ":clipboard: Before You Start

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#5,745 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
82/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
tooling

Hướng nghiên cứu

Mở .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py và xem CHECKPOINT_RE cùng hàm đặt has_prereq_section; cả hai hiện chỉ khớp với một tiêu đề emoji theo nghĩa đen. Mở rộng các mẫu để chấp nhận các biến thể shortcode và emoji được liệt kê trong issue, sau đó kiểm tra xem mô-đun đã có tệp kiểm thử để mở rộng chưa, và thêm các trường hợp cho từng dạng tiêu đề. Hoàn thành nghĩa là các unit test đều đạt và một lần chạy lại trên workshop/ báo cáo has_checkpoint: true cho 93+ trang, mà không chỉnh sửa nội dung workshop nào.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: n/a (affects 93/95 pages; corpus mean 6.06)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 93 pages ≥ 4 items → 10 −10
scaffolding 5.0 on 95 pages section present → 10 −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = r"##\s+✅\s*Checkpoint" requires the literal emoji, but workshop pages use the GitHub shortcode ## :white_check_mark: Checkpoint; likewise has_prereq_section is false for every page despite ## :clipboard: Before You Start. Only 2 pages (side-quest-13-01, side-quest-13-02) use the literal emoji, which is why they top the ranking at 8.4–8.6.

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE)

(e.g. workshop/04-github-actions-intro.md: ## :white_check_mark: Checkpoint followed by 5 checklist items, yet has_checkpoint: false)

Learning Science Rationale:
Valid measurement underpins any evidence-based evaluation: a rubric that scores a present formative-assessment checkpoint as zero misdirects improvement effort (Goodhart's law) and hides real gaps such as cognitive overload (Sweller) and low activity density behind a uniform ~2.75-point penalty.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match "## :white_check_mark: Checkpoint", "## ✅ Checkpoint" and "## ✅Checkpoint" (e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint"). Also update the prerequisite/scaffolding detection so headings like "## :clipboard: Before You Start", "## 📋 Before You Start" and "Prerequisites" all count. Add unit tests for each heading variant, rerun the assessment over workshop/, and confirm 93+ pages now report has_checkpoint=true. Do not edit workshop content.

Expected Score After Fix: ~8.6 / 10.0 corpus mean (≈ +2.5 per page; measurement fix only)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~40 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 16, 2026, 5:04 AM UTC
Ngôn ngữ chính
JavaScript
Star
62
Fork
43
Merge trung bình
11 giờ 26 phút
Pull request đã merge (30 ngày)
13

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.