Scope of `consequentialHint` for high-risk read tools
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Anfängerfreundlichkeit
- 35/100
- Issue-Typ
- Feature
- Klarheit
- Größtenteils klar
- Aktivitätsstatus
- Aktiv
- Tech-Stack
- html
- Bereich
- api
Rechercherichtung
Start by reading the WebMCP spec definition of consequentialHint and the linked pull request 217, then review the six comments for agreement on the scope. Decide whether to extend the hint to cover high-risk data exposure or define a separate sensitive-data hint; done means the spec clearly distinguishes the relevant consent risks and defines the chosen hint.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
The current WebMCP spec defines consequentialHint (introduced in https://github.com/webmachinelearning/webmcp/pull/217) as:
"If true, indicates that executing the tool will result in consequential actions that are significant, real-world, or non-reversible, ex: booking a flight, transferring money."
This definition focuses on mutative operations (write actions) but leaves high-risk read-only operations ambiguous.
Many tools do not alter state but retrieve highly sensitive, restricted, or regulated user data. Letting an agent execute these silently without user confirmation introduces severe privacy and security risks.
| Tool Example | Risk Category | Potential Impact |
|---|---|---|
readUserAddress |
Location Privacy | Exposes the user's physical, real-world location. |
readBankAccountBalance |
Financial Privacy | Reveals net worth, enabling targeted financial exploits. |
readApiKey |
Security Credentials | Exposes secrets that grant permanent external write access. |
readMedicalHistory |
Regulated Data | Exposes highly sensitive health records (e.g., HIPAA). |
I'd be in favor of updating consequentialHint to explicitly include high-risk data exposure with something like:
*"If true, indicates that executing the tool or disclosing its results will lead to significant, real-world, non-reversible, or high-privacy-risk consequences (e.g., booking a flight, transferring money, or exposing credentials and medical records)."
OR we could also introduce a new hint (e.g., sensitiveDataHint) to keep consequentialHint strictly reserved for side-effect-producing mutations, and introduce a separate, parallel hint specifically for data access risks. This would allows agents to differentiate their consent UI (e.g., "This tool will execute an action" vs. "This tool will read sensitive information").
@johannhof
- Vorherrschende Sprache
- Bikeshed
- Sterne
- 4.7k
- Forks
- 328
- Ø Merge
- 2 T. 15 Std.
- Gemergte PRs (30 T.)
- 16
Entwicklungsumgebung
Dieses Projekt bietet weder Dev-Container noch Dockerfile noch Beitragsleitfaden – die Einrichtung liegt bei Ihnen. Beginnen Sie mit der README; die allgemeinen Schritte stehen in unserem Leitfaden für den ersten Beitrag.
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus webmachinelearning/webmcp
-
Schwierigkeit 1/5 1-3 Stunden Anfängerfreundlichkeit 72/100
webmachinelearning/webmcp#360 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Say how an agent should weigh annotations that the page wrote about itselfEvtl. vergeben Ein verknüpfter Pull Request ist offen oder bereits gemergt. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
webmachinelearning/webmcp#353 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 67/100
webmachinelearning/webmcp#343 · 1 Reaktion ·
Maintainer antworten meist innerhalb von 1 Tag
-
Agenda+ i18n-tracker
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
webmachinelearning/webmcp#273 · 3 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
-
a11y-tracker Agenda+
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 67/100
webmachinelearning/webmcp#272 · 4 Kommentare · 2 Reaktionen ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in webmachinelearning/webmcp
Ähnliche Issues
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 74/100
zach-blumenfeld/aip#13 ·
-
bug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 78/100
endora-commerce/endora-commerce#397 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 82/100
NVIDIA-Omniverse/usd-brep#23 ·
-
documentation good first issue hacktoberfest python
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 69/100
pollen-robotics/reachy_mini#1493 ·
Maintainer antworten meist innerhalb von 1 Tag