[curriculum-eval] curriculum_assessment.py: checkpoint_quality and scaffolding — regexes miss :shortcode: headings (92/94 false negatives)

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#5,476 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 3 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
82/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
github-actions, python
Lĩnh vực
testing-qa

Hướng nghiên cứu

Bắt đầu tại .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, đọc CHECKPOINT_RE và phần phát hiện has_prereq_section; sau đó xem các bài kiểm tra đánh giá liên quan. Bổ sung kiểm thử cho các tiêu đề có emoji và shortcode, bao gồm tiêu đề “Prerequisites”, rồi chạy phần đánh giá để xác nhận các mục checkpoint và điều kiện tiên quyết được phát hiện trong các tệp workshop mà không thay đổi nội dung của chúng.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (all pages depressed by this bug)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 92/94 pages ≥ 10 when ≥ 4 items present −10.0
scaffolding 5.0 on 94/94 pages 10 when "Before You Start" present −5.0

Root Cause (≤ 2 sentences):
CHECKPOINT_RE matches ##\s+✅\s*Checkpoint and the prerequisite regex matches ##\s+📋\s*Before You Start, but workshop files use the GitHub shortcode form (## :white_check_mark: Checkpoint, ## :clipboard: Before You Start). A grep shows 92 files have the checkpoint heading and 87 have the Before You Start heading, yet the rubric reports 2 and 0.

Evidence (quoted from the file):

## :white_check_mark: Checkpoint (e.g. workshop/04-github-actions-intro.md, 5 checklist items, scored checkpoint_quality: 0.0)

Learning Science Rationale:
A measurement instrument must be valid before its output can drive instructional decisions. Checkpoints support retrieval practice and formative feedback, and scaffolding supports Vygotsky-style staged support. Reporting them as absent sends authors toward adding duplicate sections, and swings in score history (two pages dropped exactly 2.00 points) reflect heading syntax, not learning quality.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to match both the emoji and shortcode forms, e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint", and update the has_prereq_section detection to match r"##\s+(?:📋|:clipboard:)\s*Before You Start" as well as "## Prerequisites". Also check the bloom "evaluate" cue that uses the checkpoint regex. Add unit tests with one emoji and one shortcode sample for each. Re-run the assessment and confirm ~92 pages report has_checkpoint=true and ~87 report has_prereq_section=true. Do not edit workshop content.

Expected Score After Fix: 7.8 / 10.0 (corpus mean, estimated +1.7 from checkpoint and scaffolding recovery)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~46 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 9, 2026, 5:05 AM UTC
Ngôn ngữ chính
JavaScript
Star
58
Fork
40
Merge trung bình
4 ngày 4 giờ
Pull request đã merge (30 ngày)
8

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.