[curriculum-eval] curriculum_assessment.py: checkpoint_quality — regex misses :white_check_mark: headings, 92 of 94 pages falsely flagged

Đã đóng Phù hợp với người mới
  • Có gì không ổn?
#5,506 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
78/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
tooling

Hướng nghiên cứu

Bắt đầu với .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py và kiểm tra CHECKPOINT_RE cùng regex scaffolding. Sau đó đọc các tiêu đề workshop được tham chiếu trong workshop/04-github-actions-intro.md và side-quest-01-02-environment-reference.md. Công việc hoàn tất khi cả kiểu tiêu đề emoji và shortcode đều được nhận diện, có kiểm thử bao quát cả hai kiểu và kết quả đánh giá xác nhận các trang được báo cáo có checkpoint.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: n/a (corpus mean: 6.06)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on 92/94 pages ≥ 7.5 where a checkpoint exists about −7.5 per page
scaffolding 5.0 on pages with "📋 Before You Start" 10 −5 (check regex)

Root Cause (≤ 2 sentences):
CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) (line 10) only matches the literal ✅ character, while the workshop (per AGENTS.md) uses ## :white_check_mark: Checkpoint. The same mismatch probably affects the :clipboard: scaffolding pattern, and it explains the sudden −2.00 "declines" on side-quest-11-09 and side-quest-12-01.

Evidence (quoted from the file):

## :white_check_mark: Checkpoint (e.g. workshop/04-github-actions-intro.md, line 138), against CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE)

Learning Science Rationale:
Measurement validity: a rubric that mis-detects the checkpoint (retrieval practice, Roediger & Karpicke) produces misleading targets, so writers get pushed to fix non-problems while real issues (length, concept load) are hidden by a uniform −2.0 to −3.0 penalty.

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to accept both "✅" and ":white_check_mark:" (e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint"). Do the same for the scaffolding regex so ":clipboard: Before You Start" is recognised. Add unit tests with both heading styles, rerun the assessment, and confirm that has_checkpoint is true for workshop/04-github-actions-intro.md and side-quest-01-02-environment-reference.md.

Expected Score After Fix: 8.0 / 10.0 (corpus mean after fix, approximate)

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~35 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 10, 2026, 3:33 AM UTC
Ngôn ngữ chính
JavaScript
Star
58
Fork
40
Merge trung bình
1 ngày 22 giờ
Pull request đã merge (30 ngày)
7

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.