Mapping AI Adversarial Threats to CVEs and GuardRail Questions
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
- Tipo di issue
- Documentazione
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- machine-learning
- Ambito
- ai, documentation, security
Direzione di ricerca
Inizia esaminando le domande di valutazione di GuardRail e le CVEs rilevanti relative all’AI/ML, nonché le minacce avversarie descritte nell’issue. Definisci una mappatura coerente tra CVEs, minacce e domande, registrando le lacune e le categorie o modifiche alla formulazione proposte. Il lavoro è completato quando le relazioni e le lacune identificate sono documentate per una valutazione pratica delle minacce.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Description:
We welcome contributions to help build a comprehensive mapping between AI adversarial threats, relevant Common Vulnerabilities and Exposures (CVEs), and GuardRail assessment questions. This unified effort aims to enhance the practical utility of the GuardRail framework in identifying, analyzing, and mitigating AI-related risks.
Problem Overview:
While many CVEs exist for AI/ML systems, they are not currently linked to specific adversarial threats, making structured vulnerability assessment difficult.
Similarly, GuardRail provides a structured set of questions for evaluating AI systems, but lacks direct mapping to known adversarial threats, limiting its effectiveness in threat modeling.
Contribution Scope:
- Curate a list of CVEs relevant to AI/ML systems.
- Identify and document known AI adversarial threats.
- Map CVEs to corresponding adversarial threats.
- Map adversarial threats to relevant GuardRail questions.
- Propose new threat categories or suggest improvements to question phrasing where gaps are identified.
Impact:
- Enhances traceability between threats, vulnerabilities, and assessment criteria.
- Strengthens the GuardRail framework for real-world adversarial scenarios.
- Supports robust AI system design, auditing, and compliance.
- Improves usability for security and privacy engineers.
- Lingua principale
- Nessun dato sulla lingua
- Stelle
- 33
- Fork
- 8
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Comcast/ProjectGuardRail
-
AI resilience documentation good first issue Robustness testing
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
Comcast/ProjectGuardRail#10 ·
Tutte le issue di Comcast/ProjectGuardRail
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
prime-radiant-inc/evener#4223 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
modelscope/evalscope#1836 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
-
enhancement
Difficoltà 2/5 Meno di un'ora Idoneità per principianti 75/100
antonioortegajr/tiny-pi-code-factory#177 ·
I maintainer di solito rispondono entro 1 giorno
-
factory-active factory-automatic harness/claude-code task-identify-harness-labels-done task-identify-issue-type-done
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
vercel/ai#22549 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno