Proposal: physics-validity provider for the content_safety checkpoint system (deterministic, no-LLM)

Đang mở
  • Có gì không ổn?
#1,217 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
35/100
Loại issue
Tính năng
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
backend

Hướng nghiên cứu

Start by reading the existing veadk.content_safety Provider, config, and factory layout and how it integrates with the ADK BasePlugin lifecycle. The proposal asks for deterministic checks of physically invalid values in model and tool payloads, with tests; first clarify with maintainers whether this belongs in veadk/content_safety or plugins/. Done means an agreed implementation location, tested rules, and malformed payloads that do not crash the audit.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hi team — veadk.content_safety audits content at four lifecycle checkpoints with a pluggable Provider model on top of the ADK BasePlugin lifecycle. Proposal: add a physics-validity provider — deterministic, no-LLM checks for physically invalid values in model/tool payloads: probability outside [0,1], negative mass, superluminal speed, NaN/Inf, below-absolute-zero temperatures, out-of-range shares.

Why it complements (not duplicates) existing providers: content-safety providers judge semantics (toxicity, policy). Physics-validity checks judge whether generated arguments/outputs are physically admissible — no model call (cost bounded by the rule table); verdicts recomputable from the public, versioned rule table. An agent calling tools with {"probability": 1.8} or {"mass_kg": -3.0} can be caught independently of policy checks.

The rule table encodes maintainer-review lessons from the Microsoft PyRIT project (negative binding energies legal, growth percentages are not shares, signed velocities legal, malformed payloads never crash the audit). The same checker ships as a Dify Marketplace plugin, an MCP-registry-listed package, and a host-tested NVIDIA NeMo Relay guardrail plugin (nemo-relay==0.11.1, end-to-end).

Ask: would you take a PR adding a PhysicsProvider under veadk/content_safety (following your Provider/config/factory layout, with tests)? Or, if you prefer it as a separate community plugin under plugins/, that works too — happy to follow whichever direction you pick.

— PHM-Audit

Ngôn ngữ chính
Python
Star
349
Fork
110
Merge trung bình
18 giờ 44 phút
Pull request đã merge (30 ngày)
34

Chuẩn bị môi trường

Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của volcengine/veadk-python

Tất cả issue của volcengine/veadk-python

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.