Conduct Red Team and Adversarial Testing of Agent Learning
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 30/100
Hướng nghiên cứu
Issue không xác định các tệp, bài kiểm thử hoặc entry point, vì vậy trước tiên hãy khảo sát repository để xác định phần triển khai Agent Learning và cấu trúc kiểm thử hiện có. Xác định threat model và phạm vi kiểm thử adversarial xoay quanh reward hacking, policy poisoning, episode tampering, prompt injection, tool abuse, data poisoning và hành vi của evaluator; được xem là hoàn tất khi các tiêu chí chấp nhận được liệt kê đã được triển khai.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Summary
Perform a structured security evaluation of Agent Learning to identify vulnerabilities, abuse paths, and learning manipulation risks.
Areas of Focus
Reward hacking
Policy poisoning
Episode tampering
Prompt injection
Tool abuse
Data poisoning
Adversarial evaluator behavior
Deliverables
Threat model
Attack catalog
Findings report
Mitigation recommendations
Acceptance Criteria
Threat model completed
Adversarial test suite created
Security findings documented
Mitigation backlog generated
- Ngôn ngữ chính
- Python
- Star
- 10
- Fork
- 9
- Merge trung bình
- 1 ngày 19 giờ
- Pull request đã merge (30 ngày)
- 4
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của microsoft/agent-learning
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
microsoft/agent-learning#27 ·
-
microsoft/agent-learning#26 · 2 bình luận · 1 người được giao ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
microsoft/agent-learning#25 ·
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
microsoft/agent-learning#24 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 64/100
microsoft/agent-learning#23 ·
Tất cả issue của microsoft/agent-learning
Issue tương tự
-
bug priority:low
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
CyberAgent/psd2svg#436 ·
-
area/install-update comp/cli comp/desktop P3 sweeper:risk-compatibility type/bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
NousResearch/hermes-agent#122386 · 1 bình luận ·
-
ai-generated
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
vllm-project/production-stack#1105 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100