Parsing large object tree keeps a separate copy of every key in every object
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 5/5
- Temps estimé
- Plus d'une semaine
- Accessibilité débutants
- 45/100
- Type d'issue
- Fonctionnalité
- Clarté
- Plutôt claire
- Activité
- Active
- Stack technique
- java
- Domaine
- backend, performance
Piste de recherche
Start with JSONTokener.nextString, nextSimpleValue, and nextValue, then trace how JSONObject parses and stores keys; the issue explains the repeated-string memory cost and the existing subclass workaround. Compare the opt-in configuration, default behavior, and key-map size cap options, then add unit tests for key sharing and ensure values are not shared. Done means the chosen API behaves as documented and default parsing remains unchanged.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
What we were doing
We run a web application that takes bulk inserts as JSON. A request body has an array of row objects that all use the same keys, for example {"rows": [{"name": "a", "count": 1, ...}, {"name": "b", "count": 2, ...}, ...]}. We parse it with new JSONObject(new JSONTokener(reader)). A request can have thousands of rows with dozens of keys each.
Result
JSONTokener.nextString creates a new String for every key it reads. A key that appears in 10,000 rows is stored 10,000 times. A heap dump from one of our production servers with 41 bulk-insert requests in progress showed 1.88 GB of parsed JSON, about 108 bytes per cell. Approximately half of that was repeated copies of the same String keys.
Expected result
Each distinct key should be stored once per parse. Since your README includes "low memory footprint" as a project goal, we're hoping you'd entertain a change.
Current workaround
We subclass JSONTokener and override nextString to return one shared instance per distinct key: KeySharingJSONTokener.java. This depends on internal details: keys are read through nextSimpleValue → nextString, but quoted values go through the same nextString. To keep values out of the shared map, we also override nextValue and handle quoted values there. A future change to these internals could quietly stop keys from being shared, or start sharing values.
Proposal
Add an opt-in option, JSONParserConfiguration.withShareKeys(boolean), that is off by default. When it's on, JSONObject swaps each parsed key for an earlier identical key from the same parse. The map of seen keys is held only for the length of one parse, and it is capped so input with a huge number of unique keys can't make it grow without limit. With the default configuration, no input would parse differently.
Alternatively, if you like this approach (I don't see much downside) it could be enabled by default.
If you'd rather not add a configuration option, a documented protected method on JSONTokener that is called only for keys would also make our subclass more reliable.
We're happy to send a PR, with unit tests and Java 6-compatible code, for whichever approach you prefer. Our code linked above is Apache 2.0 but we are happy to submit a contribution here as public domain.
- Langage dominant
- Java
- Étoiles
- 4.7k
- Forks
- 2.6k
- Merge moyen
- 4 j 11 h
- PR mergées (30 j)
- 7
Préparer son environnement
- Aucun Dockerfile ni fichier Docker Compose
- Aucun modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de stleary/JSON-java
-
JSONObject.toString does not use an Enum's `toString()` but its `name()`Peut-être à nouveau libre @XIAYM-gh l’a pris il y a 46 jours, et aucune pull request n’est ouverte. OuverteFix before the next release
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
-
Awaiting further input from submitter No changes at this time
Difficulté 3/5 1-2 jours Accessibilité débutants 45/100
-
`XML.unescape` rejects the character references `XML.escape` produces for control charactersOuverte
Difficulté 3/5 1-2 jours Accessibilité débutants 72/100
-
Active discussion
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 35/100
-
JSONObject.toString() throws StackOverflowError (not JSONException) on self-referential cyclesPeut-être à nouveau libre Une pull request pour cette issue a été fermée sans être fusionnée. OuverteActive discussion
Difficulté 4/5 3-5 jours Accessibilité débutants 56/100
Toutes les issues de stleary/JSON-java
Issues similaires
-
pdfium-drift
Difficulté 1/5 Moins d'une heure Accessibilité débutants 82/100
Stirling-Tools/JPDFium#176 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
hiero-ledger/hiero-consensus-node#27712 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 61/100
Vakore/ZappierGames#162 ·
-
Improve README documentation clarity and fix minor wording issuesPeut-être pris @simplesilence l’a pris aujourd’hui. Ouverte
Difficulté 1/5 1-3 heures Accessibilité débutants 84/100
resilience4j/resilience4j#2567 ·
Les mainteneurs répondent en général sous 6 jours
-
Priority/High
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
wso2/dpdp-accelerator#417 ·
Les mainteneurs répondent en général sous 1 jour