microsoft/PyRIT

在 GitHub 查看

The Python Risk Identification Tool for generative AI (PyRIT) is an open source framework built to empower security professionals and engineers to proactively identify risks in generative AI systems.

星标: 4.5k
派生: 896
开放的新手 issue: 2
已索引 issue: 87
平均合并: 3 天 9 小时
30 天内合并 PR: 170

主要语言: Python
许可证: MIT
最近 GitHub push: 2026年9月19日
最近索引: 2026年9月19日
贡献指南: 没有贡献指南
行为准则: 行为准则
新手标签: help wanted good first issue

适合新手全部

未关闭全部

BUG MOSSBench unit-test setup fails with an existing SQLite table 未关闭

bug help wanted

难度 4/5 3-5 天新手友好度 48/100

microsoft/PyRIT#2775 · 2026年9月22日创建
BUG SDK JUnit results are never published because the runner OS condition is wrong 未关闭

bug help wanted

难度 4/5 3-5 天新手友好度 68/100

microsoft/PyRIT#2776 · 2026年9月22日创建
FEAT Add support for the HarmEval dataset 未关闭

datasets help wanted

难度 4/5 3-5 天新手友好度 55/100

microsoft/PyRIT#2770 · 2026年9月22日创建
MAINT Extract scenario-history aggregate queries and record construction 未关闭

not ready yet

难度 4/5 3-5 天新手友好度 35/100

microsoft/PyRIT#2769 · 2026年9月22日创建
MAINT Extract scenario-history attempt-to-work-unit matching 未关闭

not ready yet

难度 4/5 3-5 天新手友好度 35/100

microsoft/PyRIT#2768 · 2026年9月22日创建
MAINT Extract attack factory converter configuration composition 未关闭

help wanted

难度 3/5 1-2 天新手友好度 74/100

microsoft/PyRIT#2767 · 1 条评论 · 2026年9月22日创建
MAINT Extract attack factory constructor compatibility rules 未关闭

help wanted

难度 4/5 3-5 天新手友好度 58/100

microsoft/PyRIT#2764 · 2026年9月22日创建
MAINT Extract attack factory adversarial configuration assembly 未关闭

not ready yet

难度 4/5 3-5 天新手友好度 45/100

microsoft/PyRIT#2765 · 2026年9月22日创建
MAINT Extract scenario-history page queries from MemoryInterface 未关闭

help wanted

难度 4/5 3-5 天新手友好度 68/100

microsoft/PyRIT#2766 · 1 条评论 · 2026年9月22日创建
DOC GUI: Document dataset workflows and cover cross-flow journeys 未关闭

documentation GUI not ready yet

难度 5/5 一周以上新手友好度 30/100

microsoft/PyRIT#2761 · 2026年9月22日创建
FEAT GUI: Accept exact seed selections in scenario requests 未关闭

feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2757 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Configure scenario attack techniques and converters 未关闭

feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 38/100

microsoft/PyRIT#2758 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Configure a scenario from selected dataset examples 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 48/100

microsoft/PyRIT#2759 · 1 条评论 · 2026年9月22日创建
FEAT: Support custom scenarios over selected dataset examples 未关闭

feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2760 · 2026年9月22日创建
FEAT GUI: Add dataset loading controls and access guidance 未关闭

datasets feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2756 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Load built-in datasets into memory on request 未关闭

datasets feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2753 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Expose built-in dataset provider metadata 未关闭

datasets feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 45/100

microsoft/PyRIT#2754 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Expose configured objective-scorer presets 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 45/100

microsoft/PyRIT#2755 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Share image, audio, and video previews with datasets 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 45/100

microsoft/PyRIT#2749 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Preserve chat drafts when exploring datasets 未关闭

feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2750 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Import a dataset example into a chat draft 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 38/100

microsoft/PyRIT#2751 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Add seed-prompt inspiration entry points 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 45/100

microsoft/PyRIT#2752 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Add paginated seed browsing API 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 48/100

microsoft/PyRIT#2748 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Add prompt table and seed detail view 未关闭

feature-request GUI not ready yet

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2745 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Add memory-backed dataset summary API 未关闭

feature-request GUI help wanted

难度 4/5 3-5 天新手友好度 68/100

microsoft/PyRIT#2746 · 1 条评论 · 2026年9月22日创建
FEAT GUI: Add dataset navigation and cards 未关闭

feature-request GUI not ready yet

难度 4/5 3-5 天新手友好度 45/100

microsoft/PyRIT#2747 · 1 条评论 · 2026年9月22日创建
FEAT: Explore datasets and use seeds in chat and custom scenarios 未关闭

datasets feature-request GUI

microsoft/PyRIT#2744 · 1 条评论 · 已指派 1 人 · 2026年9月22日创建
Estimate Scenario sizes without materializing unloaded datasets 未关闭

feature-request

难度 5/5 一周以上新手友好度 45/100

microsoft/PyRIT#2735 · 2026年9月21日创建
BUG Converter Registry dialogs lose keyboard focus after dismissal and duplicate errors 未关闭

Bug: triage help wanted

难度 3/5 1-2 天新手友好度 75/100

microsoft/PyRIT#2701 · 1 条评论 · 已指派 1 人 · 2026年9月18日创建
TEST Validate non-default dataset variants against real upstream artifacts 未关闭

feature-request help wanted

microsoft/PyRIT#2672 · 2 条评论 · 已指派 1 人 · 2026年9月16日创建
SequentialAttack reports FAILURE when no child attack reached a verdict, contradicting attack_outcome_from_score's stated contract 未关闭

Bug: triage

难度 3/5 1-2 天新手友好度 68/100

microsoft/PyRIT#2658 · 2026年9月14日创建
MAINT Decompose ChatWindow conversation workflows 未关闭

feature-request help wanted

microsoft/PyRIT#2652 · 1 条评论 · 已指派 1 人 · 2026年9月14日创建
MAINT Decompose ScenarioDetail launch and estimate state 未关闭

feature-request help wanted

microsoft/PyRIT#2653 · 1 条评论 · 已指派 1 人 · 2026年9月14日创建
MAINT Split MessageList view models from rendering 未关闭

feature-request help wanted

microsoft/PyRIT#2654 · 1 条评论 · 已指派 1 人 · 2026年9月14日创建
Report harm scorer accuracy split by inter-rater agreement (a third of violence gold labels are single-vote) 未关闭

feature-request

难度 4/5 3-5 天新手友好度 55/100

microsoft/PyRIT#2628 · 2 条评论 · 2026年9月11日创建
Proposal: DecayDeltaScorer — a turn-over-turn rate-of-change scorer for multi-turn attacks 未关闭

难度 5/5 一周以上新手友好度 38/100

microsoft/PyRIT#2619 · 2026年9月9日创建
FEAT Preserve multiple labeled true/false verdicts from one scorer call 未关闭

难度 5/5 一周以上新手友好度 32/100

microsoft/PyRIT#2565 · 2 条评论 · 2026年9月3日创建
FEAT: Add Garak latent injection scenario 未关闭

enhancement good first issue

microsoft/PyRIT#2530 · 3 条评论 · 已指派 1 人 · 2026年9月1日创建
FEAT: Add Garak ProPILE privacy leakage scenario 未关闭

enhancement good first issue

microsoft/PyRIT#2532 · 1 条评论 · 已指派 1 人 · 2026年9月1日创建
FEAT: Add Garak exploitation scenario 未关闭

enhancement good first issue

难度 4/5 3-5 天新手友好度 55/100

microsoft/PyRIT#2534 · 1 条评论 · 2026年9月1日创建
FEAT Add generic GCG model adapters and an open-weight SLM compatibility matrix 未关闭

help wanted

microsoft/PyRIT#2489 · 4 条评论 · 已指派 1 人 · 2026年8月25日创建
Labelled responses from remote datasets can't reach `HumanLabeledDataset` 未关闭

难度 4/5 3-5 天新手友好度 48/100

microsoft/PyRIT#2475 · 11 条评论 · 2026年8月24日创建
MAINT Decompose scorer execution policy and result finalization 未关闭

enhancement help wanted

microsoft/PyRIT#2413 · 2 条评论 · 已指派 1 人 · 2026年8月19日创建
MAINT Simplify OpenAI Realtime receive state handling 未关闭

enhancement help wanted

microsoft/PyRIT#2414 · 2 条评论 · 已指派 1 人 · 2026年8月19日创建
FEAT Proposal: Turkish Prompt-Injection dataset loader (design/provenance discussion) 未关闭

microsoft/PyRIT#2379 · 3 条评论 · 已指派 1 人 · 2026年8月12日创建
Proposal: Arabic & Multilingual Security Contributions to PyRIT 未关闭

microsoft/PyRIT#2331 · 7 条评论 · 已指派 1 人 · 2026年8月5日创建
Add ai-redteam-wordlists high-yield seed dataset provider 未关闭

难度 5/5 一周以上新手友好度 35/100

microsoft/PyRIT#2299 · 5 条评论 · 2026年7月30日创建
FEAT: MaliciousToolCallInjection attack strategy for agentic pipeline red teaming 未关闭

难度 4/5 3-5 天新手友好度 62/100

microsoft/PyRIT#2241 · 11 条评论 · 2026年7月21日创建
FEAT Add Agentic Prompt-Injection Boundary Pairs dataset loader 未关闭

难度 4/5 3-5 天新手友好度 48/100

microsoft/PyRIT#2174 · 2 条评论 · 2026年7月13日创建
Proposal: policy invariance testing for scorers (rubric-rewording flip metrics in scorer_evaluation) 未关闭

难度 5/5 一周以上新手友好度 38/100

microsoft/PyRIT#2168 · 5 条评论 · 2026年7月11日创建

microsoft/PyRIT

把新 issue 发到你的邮箱