P3 scoring: BlockFLow validation (P3-SCR), on-chain median, scenario-driven scoring redesign
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 30/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- machine-learning, python, solidity
- Lĩnh vực
- blockchain, databases, machine-learning, testing
Hướng nghiên cứu
Start with MECHANISM_DESIGN §6 and Developer/issues/scoring-mechanism.md, then locate the shipped BlockFLow scoring implementation and its pytest integration tests. Validate poison detection, duplicate fold-in, permutation averaging, and sequential fold-in across the stated cases; inspect the finalizeEvaluation path for the on-chain auditor-batch median and eligibility gate. Done means the tests cover the specified scoring properties and the median score is the canonical basis for eligibility, rewards, and S3 slashing.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Part of the P3 mechanism-design push (#36).
Summary
Two workstreams before scoring can safely drive rewards and slashing:
- Validate the shipped BlockFLow-inspired scoring (WP 2.2 ✅) empirically — P3-SCR. High correctness risk in the subtle properties (sequential fold-in, permutation averaging).
- Scenario-driven scoring redesign — separate eligibility from utility instead of one test shard / one accuracy number / one average threshold (issues/scoring-mechanism.md).
Scope (from MECHANISM_DESIGN §6)
- P3-SCR validation: poison detection (label-flip, sign-flip, scaling, garbage), duplicate discounting via fold-in, cosine-to-consensus / norm-bound / marginal-gain gates at multiple ε values; pytest integration tests for permutation averaging and sequential fold-in
- Compute the median across the auditor batch on-chain at
finalizeEvaluationso the canonical per-model score exists on-chain as both the S3 slashing reference and the reward basis (today eligibility voting exists but no canonical score is derived) - Eligibility: median ≥
passScoregates T1 aggregation; below ⇒ rejected, zero reward - S3 deviation threshold: start wide, warning-only shadow mode for the first weeks of DevNet 2.0, then tighten (avoid punishing honest variance from heterogeneous audit test sets)
Threat coverage
In scope: crude poisoning, Sybil clients (spam costs compute, earns nothing below pass score), score inflation (median-bounded). Out of scope for 2.0: backdoors (RES-2), >50% auditor collusion.
Design sources
MECHANISM_DESIGN §6 · issues/scoring-mechanism.md · whitepaper-summary §4.4, §8 gap items 3, 11, 14 · rejected-ideas/tknn-shapley.md
Roadmap anchors: P3-SCR (validation), WP 2.2 (implementation, shipped)
- Ngôn ngữ chính
- Python
- Star
- 4
- Fork
- 7
- Merge trung bình
- 3 ngày 4 giờ
- Pull request đã merge (30 ngày)
- 34
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của InfiniteZeroFoundation/DevNet
-
ROADMAP.md: refresh "What is still open for P3" (several items were fixed in October)Có thể đã có người làm @umermjd11 đã nhận 2 ngày trước. Đang mởdocumentation good first issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 74/100
InfiniteZeroFoundation/DevNet#285 · 1 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Update the 25 translated organisation READMEs to match the English versionCó thể đã có người làm @mrCabez đã nhận hôm nay. Đang mởgood first issue help wanted
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
InfiniteZeroFoundation/DevNet#277 · 2 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Update the client-service guide to explain training and uploading separatelyCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
InfiniteZeroFoundation/DevNet#266 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
InfiniteZeroFoundation/DevNet#299 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Long run
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
InfiniteZeroFoundation/DevNet#298 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của InfiniteZeroFoundation/DevNet
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
-
Validate finite output clamping limits in StepPredictor.prepare_clamping_params to prevent silent NaN/Inf propagationCó thể đã có người làm @muskan-creates352 đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
mllam/neural-lam#848 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
infra
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
fab-geocommuns/RNB-coeur#1166 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
deepspeedai/DeepSpeed#8951 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
aws/context-ontology-accelerator#343 ·
Maintainer thường phản hồi trong vòng 1 ngày