[curriculum-eval] curriculum_assessment.py: checkpoint and scaffolding detectors miss :shortcode: headings

Đang mở Phù hợp với người mới
  • Có gì không ổn?
#5,625 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
78/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
tooling

Hướng nghiên cứu

Bắt đầu với .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py và kiểm tra CHECKPOINT_RE cùng phần kiểm tra has_prereq_section; issue chỉ ra các mẫu emoji hiện có và tiêu đề shortcode mà chúng bỏ sót. Cập nhật hoặc bổ sung unit test cho cả hai dạng tiêu đề, sau đó chạy lại quá trình đánh giá. Công việc hoàn tất khi các tiêu đề checkpoint và prerequisite hợp lệ được phát hiện, và chỉ những trang được liệt kê không có checkpoint còn giữ cờ missing_checkpoint.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

curriculum documentation quality

File: .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py
Overall Score: n/a (scorer defect; corpus mean reported 6.06, estimated true mean about 8.7)

Flagged Dimensions:

Dimension Score Benchmark Delta
checkpoint_quality 0.0 on all 92 learning pages ≥ 10 for pages with ≥ 4 items −10
scaffolding 5.0 on all 94 pages 10 when a "Before You Start" section exists −5

Root Cause (≤ 2 sentences):
CHECKPOINT_RE matches only ## ✅ Checkpoint and the prerequisite check only ## 📋 Before You Start, but the workshop headings use :white_check_mark: and :clipboard: shortcodes. As a result every page is flagged missing_checkpoint and loses 2.0 + 1.5 weighted points.

Evidence (quoted from the file):

CHECKPOINT_RE = re.compile(r"##\s+✅\s*Checkpoint", re.IGNORECASE) versus workshop/05-agentic-workflows-intro.md: ## :white_check_mark: Checkpoint (6 checklist items, still scored 0).

Learning Science Rationale:
A measurement instrument must be valid before its output can guide instruction. Constructive alignment (Biggs) requires that assessment criteria reflect the actual checkpoints learners meet; a detector that cannot see them produces false "missing checkpoint" findings that waste author effort and hide real issues such as excess length and concept overload (Sweller's Cognitive Load Theory).

Improvement Prompt (for an agent):

In .github/skills/curriculum-quantitative-assessment/curriculum_assessment.py, update CHECKPOINT_RE to accept both "✅" and ":white_check_mark:" (e.g. r"##\s+(?:✅|:white_check_mark:)\s*Checkpoint"), and update the has_prereq_section check to accept both "📋" and ":clipboard:" before "Before You Start" (keep "## Prerequisites"). Add or update unit tests for both heading forms, rerun the assessment, and confirm learning pages with a checkpoint now receive checkpoint_quality = min(10, items*2.5) and that the "missing_checkpoint" flag only appears for pages truly lacking one (00-welcome, 01-prerequisites, 06-install-gh-aw, side-quest-13-01, side-quest-13-02).

Expected Score After Fix: 8.7 / 10.0 corpus mean (re-estimated from the current metrics).

Generated by 🔬 Curriculum Quality Evaluator · copilot · auto · ~47 AIC · ⌖ ~1 AIC · ⊞ 5K · ◷

  • expires on Nov 13, 2026, 5:04 AM UTC
Ngôn ngữ chính
JavaScript
Star
62
Fork
43
Merge trung bình
1 ngày 5 giờ
Pull request đã merge (30 ngày)
9

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Không có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của githubnext/gh-aw-workshop

Tất cả issue của githubnext/gh-aw-workshop

Issue tương tự

Thêm issue về JavaScript

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.