partition_unique leaks metadata references for completed and duplicate records
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 25/100
Piste de recherche
Start at partition_unique and inspect the shared retain/release helpers, then add regressions for keep="first", keep="last", and metadata shape. Verify discarded references are released immediately, synchronous completion leaves no references retained, and buffered downstream nodes keep references until processing finishes. An open pull request (#502) is already linked to this issue.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
partition_unique retains metadata references for every input, but does not release them when a duplicate is discarded (keep="first") or replaced (keep="last"). It also emits nested metadata lists, while the shared retain/release helpers expect a flat list of dictionaries. Even a completed partition with a synchronous sink leaves its references retained.
Reproduced on master 5267116f49fc2257e39b44abd8d1e5c5460715f8, Windows Python 3.12.14:
from streamz import Stream, RefCounter
for keep in ("first", "last"):
source = Stream()
output = source.partition_unique(2, keep=keep).sink_to_list()
refs = [RefCounter() for _ in range(3)]
for value, ref in zip((1, 1, 2), refs):
source.emit(value, metadata=[{"ref": ref}])
print(keep, output, [ref.count for ref in refs])
Actual: both modes output [(1, 2)] with counts [1, 1, 1]. Expected: [0, 0, 0] after the synchronous sink finishes; discarded records should release their references immediately. Buffered downstream nodes must still retain references until they finish processing.
I plan a narrow fix in partition_unique: release discarded metadata, flatten retained metadata for emission, and add first/last ownership and metadata-shape regressions. Searches found the original feature PR #389 but no current fix for this issue. Is there existing work or a preferred approach?
AI disclosure: this report and proposed contribution were prepared and reproduced by Codex under the account owner authorization. I am not claiming an active production use case or manual human review.
- Langage dominant
- Python
- Étoiles
- 1.3k
- Forks
- 151
- Merge moyen
- 17 h 39 min
- PR mergées (30 j)
- 1
Préparer son environnement
- Fournit un Dockerfile ou un fichier Docker Compose
- Aucun modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de python-streamz/streamz
-
pkg_resources warningOuverte
Difficulté 3/5 1-2 jours Accessibilité débutants 35/100
python-streamz/streamz#481 · 4 commentaires ·
-
Combining the streamz.Stream.filenames() and streamz.Stream.from_textfile() using dask scatter?Ouverte
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
python-streamz/streamz#480 · 2 commentaires ·
-
Compile the code into c++Ouverte
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 20/100
python-streamz/streamz#479 · 1 commentaire ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 20/100
python-streamz/streamz#478 · 6 commentaires ·
-
Difficulté 4/5 3-5 jours Accessibilité débutants 10/100
python-streamz/streamz#476 · 17 commentaires · 2 réactions ·
Toutes les issues de python-streamz/streamz
Issues similaires
-
[Bug]: Streamed /v1/chat/completions sends unredacted agent error text (keys) in the final chunkPeut-être pris @rodricksz4h5 l’a pris aujourd’hui. Ouvertearea/streaming comp/gateway P2 type/security
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
NousResearch/hermes-agent#138245 ·
Les mainteneurs répondent en général sous 1 jour
-
[oblt-aw][autodoc] Update user onboarding guide for mandatory trigger CODEOWNERS stepPeut-être pris @github-actions l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 66/100
Les mainteneurs répondent en général sous 1 jour
-
correction metadata
Difficulté 2/5 Moins d'une heure Accessibilité débutants 68/100
acl-org/acl-anthology#10378 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
cloudtrail_multi_region_enabled_logging_management_events fails when the advanced event selector has a custom namePeut-être pris @12YYCCYY16 l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 78/100
prowler-cloud/prowler#13033 ·
Les mainteneurs répondent en général sous 1 jour
-
enhancement
Difficulté 1/5 1-3 heures Accessibilité débutants 88/100
graygarbage/HermesKey#23 ·