[Dataset Request] Add nvidia/Nemotron-PII — PII detection benchmark
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 65/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- huggingface
- Lĩnh vực
- machine-learning, security
Hướng nghiên cứu
Bắt đầu bằng cách kiểm tra workflow hiện có của repository này để lập chỉ mục dataset và leaderboard, sau đó xem lại dataset card của nvidia/Nemotron-PII về schema, labels, giấy phép và tác vụ đánh giá. Xác nhận cách các benchmark PII hoặc token-classification tương tự được biểu diễn, và không thêm kết quả nếu chưa có nguồn được chấp nhận; được xem là hoàn tất khi dataset và tác vụ PII Detection được lập chỉ mục cùng với metric và metadata đã nêu.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Hi! I'd like to request indexing the Nemotron-PII dataset and a leaderboard for PII Detection.
Dataset
- HF:
nvidia/Nemotron-PII - Publisher: NVIDIA
- Size: 200,000 rows (100K train / 100K test), synthetic, ~30 domains
- Labels: 50+ PII types; character-level spans (
{start, end, text, label}) + inline-tagged text; English (US locale) - Task: PII Detection / span extraction (token classification)
- Primary metric: token/span-level F1 (micro-averaged)
- License: CC-BY-4.0
Suggested results to seed the leaderboard
⚠️ Single-source, self-reported. NVIDIA's dataset card publishes no baselines. The only public numbers I could find come from one community author (Kalyan KS), who trained the winning models — treat as a community claim, not an independent benchmark. Micro-F1 on 10K test instances:
| Model | Precision | Recall | F1 |
|---|---|---|---|
| GPT-4o-mini (zero-shot) | 95.21 | 67.05 | 78.69 |
| Ettin-32M (fine-tuned) | 95.96 | 95.49 | 95.73 |
| Ettin-68M (fine-tuned) | 96.35 | 96.19 | 96.27 |
Source: https://huggingface.co/blog/kalyan-ks/tiny-pii-entity-detection-models . Given the single-source provenance, it may be cleaner to request the dataset/task first and leave results for the community/maintainer to populate from pwc-archive or peer-reviewed work.
Note
A large, recent, industry-domain PII dataset with fine-grained labels — good complement to AI4Privacy and Privy. Thanks!
- Ngôn ngữ chính
- Không có dữ liệu ngôn ngữ
- Star
- 11
- Fork
- 1
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của huggingface/paperswithcode-feedback
-
Data LicenseĐang mở
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
huggingface/paperswithcode-feedback#49 · 1 bình luận ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 28/100
huggingface/paperswithcode-feedback#41 · 1 bình luận · 1 reaction ·
-
SuggestionsĐang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
Tất cả issue của huggingface/paperswithcode-feedback
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
Arekkazu/sgpmp-backend#744 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
regression skipped skipped_bmg
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 67/100
intel/torch-xpu-ops#5858 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
difficulty: medium enhancement help wanted
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
Maintainer thường phản hồi trong vòng 1 ngày
-
vesuvius: locked wandb 0.28 can't find an existing W&B Forge login ("No API key configured")Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
ScrollPrize/villa#2299 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100