Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

Python: [Feature] Memory validation layer to protect against memory poisoning attacks (OWASP AMG integration)

Aperta
  • Qualcosa non va?
#14,062 1 commento 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 2 giorni

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
35/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Tranquilla
Stack tecnologico
python
Ambito
ai, security

Direzione di ricerca

Inizia tracciando il flusso della memoria Python attraverso TextMemoryPlugin, SemanticTextMemory, connectors e le implementazioni di IMemoryStore. Confronta gli approcci proposti basati su middleware o pipeline configurabili con il percorso di persistenza esistente e l’integrazione di OWASP Agent Memory Guard. Il lavoro sarà considerato completato quando un livello di validazione opzionale potrà analizzare le voci prima della persistenza e bloccare i contenuti di memory poisoning rilevati senza influire sugli store non configurati.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

python triage

Scenario

Semantic Kernel's memory features (TextMemoryPlugin, VolatileMemoryStore, connectors) allow agents to store and retrieve information across interactions. However, there's currently no built-in validation to prevent memory poisoning attacks — where adversarial content gets stored in memory and alters agent behavior in subsequent sessions.

This is now a documented attack class: Memory Poisoning Attacks in LLM Agents (arxiv, June 2026)

Proposal

Add an optional memory validation layer that scans entries before they're persisted to any IMemoryStore implementation. This could be implemented as:

  1. A middleware/decorator pattern for IMemoryStore
  2. A configurable validation step in the memory pipeline

There's an existing open-source solution that already supports Semantic Kernel: OWASP Agent Memory Guard

What it detects:
  • Prompt injection hidden in memory entries
  • Instruction override attempts ("ignore previous instructions...")
  • Persona/identity manipulation
  • Cross-session persistence attacks
  • Encoding-based obfuscation (base64, hex, rot13)
Integration example (Python SK):
from agent_memory_guard import MemoryGuard
from semantic_kernel.memory import SemanticTextMemory

guard = MemoryGuard()

# Validate before saving to memory
async def save_with_validation(memory: SemanticTextMemory, collection, text, id):
    result = guard.scan(text)
    if result.is_safe:
        await memory.save_information(collection, text, id)
    else:
        raise MemoryPoisoningError(f"Blocked: {result.threat_type}")
Key details:
  • pip install agent-memory-guard
  • 98.7% detection rate, <2ms latency per validation
  • OWASP Incubator project (Apache 2.0)
  • Already has integrations for CrewAI, AutoGen, LangChain, and Semantic Kernel

Benefits

  • Protects SK agents from having their behavior silently altered via poisoned memories
  • Complements existing SK security practices
  • Minimal performance impact (<2ms per memory operation)
  • Could be opt-in via configuration
Lingua principale
C#
Stelle
28.6k
Fork
4.8k
Merge medio
13h 24m
PR unite (30g)
11

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di microsoft/semantic-kernel

Tutte le issue di microsoft/semantic-kernel

Issue simili

Altre issue su C#

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.