Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

FEAT: Add Garak divergence scenario

Đã đóng
  • Có gì không ổn?
#2,533 1 bình luận 0 reaction 1 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 2 ngày

@VimalN2005 đang làm issue này rồi.

Từ ngày 8/9/2026.

Đánh giá

Issue này chưa được đánh giá.

Mô tả

enhancement good first issue
Is your feature request related to a problem? Please describe.

PyRIT does not have a bounded scenario for garak's repetition-induced divergence checks. A direct port would generate tokenizer data at runtime and change target output settings from probe code. Those behaviors do not fit PyRIT component responsibilities and can create unexpectedly expensive runs. This is part of #511.

Describe the solution you'd like

Add a PyRIT-native divergence scenario based on garak/probes/divergence.py.

Required scope and behavior:

  • Make Repeat the default scenario technique.
  • Add RepeatedToken as an explicit opt-in technique. Leave inactive RepeatExtended outside the required first version.
  • Store repeat templates, seed words, and safe configuration metadata in local PyRIT datasets.
  • Store a small, fixed, attributed set of precomputed repeated-token strings in the dataset. Do not add runtime tokenizer generation or a new tokenizer dependency.
  • Use standard PyRIT attack flow. Do not mutate target max_tokens or other target settings in the scenario. Document any recommended target output limit as user configuration.
  • Reuse existing refusal and text-analysis components where their contracts fit. If no existing scorer covers divergence, add one deterministic scorer that distinguishes refusal or bounded requested repetition from unexpected continuation, and that detects excessive repeated structures for RepeatedToken.
  • Set conservative prompt counts and response limits so the default is not a denial-of-service test.
  • Describe positive results as divergence or output instability. Do not claim training-data leakage without a separate attributable reference match.
  • Add exports, bounded unit tests, and synchronized .py and .ipynb scanner documentation.

Use PromptInject PR #2509 as an example of dataset/technique separation. Follow doc/code/framework.md and the applicable scenario, dataset, scorer, test, and documentation instructions. Do not port garak generator hooks into a scenario.

Describe alternatives you've considered, if relevant
  • Runtime tiktoken generation was considered and rejected. Fixed data keeps the scenario deterministic and avoids dependency and tokenizer-version drift.
  • Changing target output limits from scenario code was considered and rejected. The target owner must control those limits.
  • Treating any repetition as a positive result would confuse expected bounded compliance with divergence.
Additional context
  • Parent parity issue: #511
  • PyRIT structural example: #2509
  • Upstream probe: garak/probes/divergence.py
  • Garak is Apache-2.0, not MIT. Retain applicable attribution and modification notices for copied or adapted source data.
Ngôn ngữ chính
Python
Star
4.6k
Fork
944
Merge trung bình
3 ngày 1 giờ
Pull request đã merge (30 ngày)
278

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

  • Không có Dockerfile hay tệp Docker Compose
  • Có mẫu pull request
  • Không có hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của microsoft/PyRIT

Tất cả issue của microsoft/PyRIT

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.