BUG JBB-Behaviors loader uses the short Behavior label as the prompt instead of Goal
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 78/100
Direzione di ricerca
Inizia dal loader _JBBBehaviorsDataset e ispeziona i dati di test simulati che attualmente inseriscono frasi complete in Behavior. Verifica le colonne del dataset reale e aggiorna la sorgente dei seed a Goal, mantenendo Behavior e Target come metadati. Esegui i test del loader e conferma che i primi seed contengano obiettivi completi anziché brevi etichette di comportamento.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
The jbb_behaviors loader uses the Behavior column as the seed value, but upstream that's just a short label ("Defamation", "Body shaming"). The actual request is in Goal. So all 100 seeds end up as topic words, and that's what gets sent as the objective. The test mocks put full sentences in Behavior, which is why it slipped through.
d = await _JBBBehaviorsDataset().fetch_dataset_async(cache=False)
[s.value for s in d.seeds[:3]] # ['Defamation', 'Body shaming', 'Xenophobia']
Fix is to use Goal and keep Behavior/Target in metadata. PR coming.
- Lingua principale
- Python
- Stelle
- 4.5k
- Fork
- 896
- Merge medio
- 3g 8h
- PR unite (30g)
- 191
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di microsoft/PyRIT
-
BUG HarmBench loader drops ContextString, so contextual behaviors are sent without their context Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100
Tutte le issue di microsoft/PyRIT
Issue simili
-
agent-ready documentation needs-triage
Difficoltà 1/5 1-3 ore Idoneità per principianti 88/100
-
documentation
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 91/100
-
workflow-status page template still says reusable workflows are "triggered only by workflow_call:" Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 92/100
-
instance instance add
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 72/100
searxng/searx-instances#939 · 1 commento ·
-
area-deployment area-integrations triage:bot-seen
Difficoltà 2/5 Mezza giornata Idoneità per principianti 86/100