BUG JBB-Behaviors loader uses the short Behavior label as the prompt instead of Goal
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 78/100
Hướng nghiên cứu
Bắt đầu từ loader _JBBBehaviorsDataset và kiểm tra dữ liệu kiểm thử giả lập hiện đang đặt các câu hoàn chỉnh vào Behavior. Xác minh các cột của dataset thực và cập nhật nguồn seed thành Goal, đồng thời giữ Behavior và Target làm siêu dữ liệu. Chạy các bài kiểm thử của loader và xác nhận rằng các seed đầu tiên chứa các goal đầy đủ thay vì các nhãn behavior ngắn.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
The jbb_behaviors loader uses the Behavior column as the seed value, but upstream that's just a short label ("Defamation", "Body shaming"). The actual request is in Goal. So all 100 seeds end up as topic words, and that's what gets sent as the objective. The test mocks put full sentences in Behavior, which is why it slipped through.
d = await _JBBBehaviorsDataset().fetch_dataset_async(cache=False)
[s.value for s in d.seeds[:3]] # ['Defamation', 'Body shaming', 'Xenophobia']
Fix is to use Goal and keep Behavior/Target in metadata. PR coming.
- Ngôn ngữ chính
- Python
- Star
- 4.5k
- Fork
- 896
- Merge trung bình
- 3 ngày 1 giờ
- Pull request đã merge (30 ngày)
- 208
Chuẩn bị môi trường
Chúng tôi chưa kiểm tra các tệp thiết lập môi trường của dự án này. Hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của microsoft/PyRIT
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 91/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Bug: triage GUI help wanted
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
microsoft/PyRIT#2868 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của microsoft/PyRIT
Issue tương tự
-
pydanty:is-working
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
pydantic/pydantic-ai#8843 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
breaking change enhancement server
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
sktime/sktime#11310 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 1 ngày
-
needs-triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 85/100
Maintainer thường phản hồi trong vòng 1 ngày