FEAT: Add a converter for indirect prompt injection via hidden HTML/Markdown text
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 初心者へのやさしさ
- 70/100
調査の方向性
The new converter belongs in pyrit/converter/. Start by examining existing converters like AnsiAttackConverter to understand the base class and SUPPORTED_INPUT_TYPES. The issue lists specific hiding techniques (html_comment, css_display_none, etc.); implement each, ensuring proper escaping. Write unit tests for each technique. Check doc/references.bib for the WASP benchmark citation. Done means the converter passes all tests and can be used with the XPIA workflow.
索引モデルが issue の本文から書いたものです。
説明
Summary
I would like to add a new text-to-text converter, HiddenTextConverter, that embeds
the input prompt as hidden or de-emphasized text inside an HTML or Markdown carrier.
Motivation
PyRIT already has the XPIA workflow for indirect prompt injection, but there is no
converter that produces a hidden payload for it to deliver. Systems that summarize or
act on external content (web pages, documents, emails) read the raw source, so text can
be present in the source while staying invisible to a human reviewer. A model that parses
that source may still read and follow it.
This is the same idea as the existing AnsiAttackConverter (terminal escape sequences) and
TransparencyAttackConverter (image layers), applied to HTML and Markdown documents. The
hiding methods are documented injection vectors from the WASP web-agent security benchmark
(arXiv:2504.18575).
Proposed behavior
The converter takes a prompt and wraps it using a chosen technique:
- html_comment
- css_display_none
- css_offscreen
- html_alt_text
- aria_label
- markdown_comment
- markdown_link_title
An optional carrier_text places the hidden payload inside normal looking content. The
converter only formats the text it is given and does not generate any attack content on
its own. Input is escaped so the payload cannot break out of the surrounding markup.
Scope
- New converter in pyrit/converter with SUPPORTED_INPUT_TYPES and SUPPORTED_OUTPUT_TYPES of text
- Unit tests for each technique, escaping, carrier text, and input validation
- Reference added to doc/references.bib
- Intended for use as a request converter with the XPIA workflow
I have a working implementation and would like to take this issue if it fits the project's plans.
- 主要言語
- Python
- スター
- 4.5k
- フォーク
- 896
- 平均マージ
- 3日 8時間
- マージ済み PR(30日)
- 191
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
microsoft/PyRIT のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 65/100
-
Bug: triage GUI help wanted
難易度 3/5 1〜2日 初心者へのやさしさ 65/100
-
bug help wanted
難易度 4/5 3〜5日 初心者へのやさしさ 68/100
-
not ready yet
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
-
not ready yet
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
microsoft/PyRIT の issue をすべて見る
似ている issue
-
area: harness bug status: needs-triage
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
Human-Agent-Society/reef#625 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 80/100
learningequality/kolibri#15351 · コメント 2 件 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
Name consistency オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
eellak/triplestore#65 · コメント 1 件 ·