Add limit to rephrase on_fail action
Maintainer thường phản hồi trong vòng 3 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 35/100
Hướng nghiên cứu
Bắt đầu bằng cách xác định rephrase on_fail action và đoạn mã gọi nó cho các truy vấn liên tiếp; issue không nêu tệp hay test nào. Xác định nơi theo dõi số lần gọi cho từng truy vấn và các test hiện có bao phủ những gì, sau đó xác minh rằng đầu vào gây hại lặp lại sẽ dừng sau một giới hạn được xác định mà không tạo ra vòng lặp vô hạn.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Which feature or component needs enhancement?
The rephrase on_fail action has no limits of calling. In each successive iteration, harmful text can keep on getting detected and in the worse case, it might mean an endless loop of nudging the user / LLM to rephrase their response. We need to put a limit on how many times this can be called for a single query.
Describe the current behavior
We have added a custom on_fail action called "rephrase" which nudges the user or LLM to rephrase their query since we have detected harm in the message. However, we don't have a limit as to how many times this "rephrase" on_fail action can be called if it keeps on detecting harmful text.
- Ngôn ngữ chính
- Python
- Star
- 5
- Fork
- 4
- Merge trung bình
- 6 ngày 1 giờ
- Pull request đã merge (30 ngày)
- 10
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của ProjectTech4DevAI/kaapi-guardrails
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
ProjectTech4DevAI/kaapi-guardrails#94 ·
Maintainer thường phản hồi trong vòng 3 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 65/100
ProjectTech4DevAI/kaapi-guardrails#23 ·
Maintainer thường phản hồi trong vòng 3 ngày
-
PII Remover: Fix validator on_fail errorCó thể đã có người làm @AkhileshNegi đã nhận 4 ngày trước. Đang mởbug
ProjectTech4DevAI/kaapi-guardrails#167 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 3 ngày
-
Callback Enhancement: Include intermediate responsesCó thể làm lại được @Prajna1999 đã nhận 40 ngày trước và không có pull request nào đang mở. Đang mở
ProjectTech4DevAI/kaapi-guardrails#158 · 1 người được giao ·
Maintainer thường phản hồi trong vòng 3 ngày
-
Kaapi Console: Display config idĐang mở
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100
ProjectTech4DevAI/kaapi-guardrails#137 ·
Maintainer thường phản hồi trong vòng 3 ngày
Tất cả issue của ProjectTech4DevAI/kaapi-guardrails
Issue tương tự
-
get_page_thumbnail modifies cached page images, affecting later thumbnails and picture exportsĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
docling-project/docling-mcp#147 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 80/100
Maintainer thường phản hồi trong vòng 1 ngày
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
autowarefoundation/autoware_carla_scenario#405 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 79/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
mohitmishra786/readprism#322 ·
Maintainer thường phản hồi trong vòng 1 ngày