Python: Security: OWASP Agent Memory Guard for SK memory poisoning defense (ASI06)

Đang mở
#14,006 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 3 ngày

Chưa có ai nhận issue này.

  • #14608 của @sparkysolutions10-pixel — đã đóng, không merge

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
43/100
Loại issue
Tài liệu
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Ít trao đổi
Công nghệ
python
Lĩnh vực
documentation, security

Hướng nghiên cứu

Bắt đầu bằng việc xem xét entry point của Python SemanticTextMemory và các memory connector được nêu trong issue, sau đó kiểm tra cấu trúc tài liệu của repository. Công việc được xem là hoàn tất khi phần hướng dẫn liên quan bao quát OWASP ASI06 và giải thích hoặc tham chiếu rõ ràng Agent Memory Guard như lớp enforcement được đề xuất; issue không nêu tên các file hoặc test cụ thể.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

python triage

Feature Request: OWASP Agent Memory Guard Integration

What is Agent Memory Guard?

OWASP Agent Memory Guard is the official OWASP reference implementation for ASI06 - Memory Poisoning from the OWASP Top 10 for Agentic Applications.

The Problem in Semantic Kernel

Semantic Kernel's memory connectors (volatile, Redis, Azure AI Search, etc.) are vulnerable to memory poisoning attacks. Malicious content stored in semantic memory can:

  • Manipulate kernel function outputs
  • Cause the planner to execute attacker-controlled steps
  • Persist attack payloads across sessions

Integration Example (Python)

pip install agent-memory-guard
from semantic_kernel.memory import SemanticTextMemory
from agent_memory_guard import MemoryGuard

guard = MemoryGuard()

async def safe_save_information(memory: SemanticTextMemory, collection: str, text: str, **kwargs):
    result = guard.scan_write(text)
    if not result.is_safe:
        raise ValueError(f"Memory poisoning blocked: {result.threat_type}")
    await memory.save_information(collection=collection, text=text, **kwargs)

Request

Would the SK team consider:

  1. Adding memory security guidance to the docs (OWASP ASI06)
  2. Referencing Agent Memory Guard as the recommended enforcement layer

Apache 2.0 licensed. Already integrated with LangChain via langchain-agent-memory-guard.

Ngôn ngữ chính
C#
Star
28.8k
Fork
4.9k
Merge trung bình
2 ngày 17 giờ
Pull request đã merge (30 ngày)
48

Chuẩn bị môi trường

Mở trong Codespaces

Khởi chạy dev container của dự án ngay trên trình duyệt, bằng tài khoản GitHub của bạn.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của microsoft/semantic-kernel

Tất cả issue của microsoft/semantic-kernel

Issue tương tự

Thêm issue về C#

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.