Python: Security: OWASP Agent Memory Guard for SK memory poisoning defense (ASI06)

Aperta
#14,006 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 3 giorni

Nessuno ha ancora preso questa issue.

  • #14608 di @sparkysolutions10-pixel — chiusa senza merge

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
43/100
Tipo di issue
Documentazione
Chiarezza
Abbastanza chiara
Stato di attività
Tranquilla
Stack tecnologico
python

Direzione di ricerca

Inizia esaminando l’entry point di Python SemanticTextMemory e i memory connector menzionati nell’issue, quindi analizza la struttura della documentazione del repository. Il lavoro è completato quando la guida pertinente copre OWASP ASI06 e spiega chiaramente o fa riferimento ad Agent Memory Guard come livello di enforcement proposto; l’issue non indica file o test specifici.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

python triage

Feature Request: OWASP Agent Memory Guard Integration

What is Agent Memory Guard?

OWASP Agent Memory Guard is the official OWASP reference implementation for ASI06 - Memory Poisoning from the OWASP Top 10 for Agentic Applications.

The Problem in Semantic Kernel

Semantic Kernel's memory connectors (volatile, Redis, Azure AI Search, etc.) are vulnerable to memory poisoning attacks. Malicious content stored in semantic memory can:

  • Manipulate kernel function outputs
  • Cause the planner to execute attacker-controlled steps
  • Persist attack payloads across sessions

Integration Example (Python)

pip install agent-memory-guard
from semantic_kernel.memory import SemanticTextMemory
from agent_memory_guard import MemoryGuard

guard = MemoryGuard()

async def safe_save_information(memory: SemanticTextMemory, collection: str, text: str, **kwargs):
    result = guard.scan_write(text)
    if not result.is_safe:
        raise ValueError(f"Memory poisoning blocked: {result.threat_type}")
    await memory.save_information(collection=collection, text=text, **kwargs)

Request

Would the SK team consider:

  1. Adding memory security guidance to the docs (OWASP ASI06)
  2. Referencing Agent Memory Guard as the recommended enforcement layer

Apache 2.0 licensed. Already integrated with LangChain via langchain-agent-memory-guard.

Lingua principale
C#
Stelle
28.8k
Fork
4.9k
Merge medio
2g 17h
PR unite (30g)
48

Preparare l'ambiente

Apri in Codespaces

Avvia il container di sviluppo del progetto nel browser, con il tuo account GitHub.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di microsoft/semantic-kernel

Tutte le issue di microsoft/semantic-kernel

Issue simili

Altre issue su C#

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.