[curriculum-eval] curriculum_assessment.py: checkpoint_quality — CHECKPOINT_RE misses `:white_check_mark:` shortcode, 92/94 pages scored 0

Đã đóng Phù hợp với người mới
  • Có gì không ổn?
#5,218 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
78/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
content, tooling

Hướng nghiên cứu

Bắt đầu từ .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py tại định nghĩa CHECKPOINT_RE, rồi kiểm tra logic has_checkpoint đang sử dụng nó. Để tái hiện, hãy chạy script đánh giá trên workshop/side-quest-01-02-environment-reference.md. Trang này có tiêu đề checkpoint dùng :white_check_mark: nhưng lại được chấm has_checkpoint: false. Công việc hoàn thành khi trang này và các trang học khác dùng cả hai kiểu tiêu đề đều được nhận diện, gợi ý Bloom của checkpoint và việc đếm checklist được xác nhận, và các bài kiểm thử của skill đều pass.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: corpus mean 6.06 / 10.0 (understated by about 2 points of weighted score)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 (92 of 94 pages) ≥ 7.5 (≥ 3 items; 10 at ≥ 4 items) -7.5 to -10

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) only matches the literal emoji. Workshop pages use the ## :white_check_mark: Checkpoint shortcode required by AGENTS.md, so has_checkpoint is false and missing_checkpoint is flagged on pages that do have checkpoints.

Evidence (quoted from the file):

## :white_check_mark: Checkpoint (e.g. workshop/side-quest-01-02-environment-reference.md line 155, followed by 7 checklist items, yet scored has_checkpoint: false)

Learning Science Rationale:
Checkpoints are formative assessment and retrieval practice (Roediger and Karpicke's testing effect). A metric that reports them as absent when they exist sends authors to fix a non-problem and hides real weaknesses such as vague checklist items. It also causes score swings in history (side-quest-11-09 and side-quest-12-01 each moved by 2.00 points).

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, change CHECKPOINT_RE so it matches both "## ✅ Checkpoint" and "## :white_check_mark: Checkpoint" (for example r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint", re.IGNORECASE). Re-run the assessment script on workshop/ and confirm has_checkpoint is true for all learning pages that contain a checkpoint heading. Also check whether the activity:checkpoint Bloom cue at around line 157 and the checklist-item counting need the same fix. Update any unit tests or docs for the skill. Do not edit workshop content.

Expected Score After Fix: ~8.0 / 10.0 corpus mean (up from 6.06)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~40 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 2, 2026, 3:34 AM UTC
Ngôn ngữ chính
JavaScript
Star
56
Fork
40
Merge trung bình
2 ngày 14 giờ
Pull request đã merge (30 ngày)
13

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.