[curriculum-eval] curriculum_assessment.py: checkpoint_quality — regex misses :white_check_mark: and :clipboard: headings, penalising all pages

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#5,437 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 3 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
77/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
github-actions, python
Lĩnh vực
testing, tooling

Hướng nghiên cứu

Bắt đầu với .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, đặc biệt là CHECKPOINT_RE và cách phát hiện điều kiện tiên quyết cũng như activity:checkpoint mà tệp này sử dụng; kiểm tra các bài kiểm thử đơn vị hiện có. Cập nhật các mẫu để nhận diện cả tiêu đề có emoji viết trực tiếp lẫn tiêu đề dùng shortcode của GitHub, đồng thời giữ nguyên ## Prerequisites. Sau đó, chạy công cụ đánh giá trên workshop/*.md. Hoàn thành khi các tiêu đề phù hợp được phát hiện và các cờ missing_checkpoint sai được xóa; không chỉnh sửa nội dung workshop.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (threshold 5.52)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 92 of 94 pages ≥ 4 items → 10 −10
scaffolding 5.0 on 94 of 94 pages 10 when "Before You Start" present −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = r"##\s+✅\s*Checkpoint" and the prereq regex ##\s+📋\s*Before You Start match only literal emoji, but workshop files use GitHub shortcodes (## :white_check_mark: Checkpoint, ## :clipboard: Before You Start). Every page loses about 2.0 × 10 (checkpoint) and 1.5 × 5 (scaffolding) weighted points, so scores cluster at 5–7 and the "missing_checkpoint" flag is meaningless.

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) (the page workshop/side-quest-11-06-anthropic-key.md has ## :white_check_mark: Checkpoint with 5 checklist items, yet has_checkpoint is false)

Learning Science Rationale:
Valid measurement is a precondition for acting on Bloom's-aligned assessment and cognitive-load findings: retrieval-practice checkpoints are a key scaffolding feature (Roediger and Karpicke's testing effect), and a rubric that scores them as absent on every page cannot discriminate good from poor steps. The false negatives also hide real gaps and produce spurious trend swings (for example the −2.00 "declines" on side-quest-11-09-agent-session-phases.md and side-quest-12-01-iterate-agent-output.md).

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE and the has_prereq_section regexes so they accept both the literal emoji and the GitHub shortcode forms: "## ✅ Checkpoint" / "## :white_check_mark: Checkpoint", and "## 📋 Before You Start" / "## :clipboard: Before You Start" (also keep "## Prerequisites"). Also update the Bloom "activity:checkpoint" detection that uses CHECKPOINT_RE. Add or update unit tests if present, rerun the assessment over workshop/*.md, and confirm has_checkpoint is true for pages with a Checkpoint heading and that the corpus mean rises accordingly. Do not edit workshop content.

Expected Score After Fix: ~7.5 / 10.0 corpus mean (checkpoint_quality and scaffolding recovered on most pages)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~46 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 8, 2026, 3:30 AM UTC
Ngôn ngữ chính
JavaScript
Star
58
Fork
40
Merge trung bình
4 ngày 4 giờ
Pull request đã merge (30 ngày)
8

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.