Structured-output parsing drops valid dictionary entries
I maintainer di solito rispondono entro 1 giorno
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
Priority Level
Medium (Annoying but has workaround)
Describe the bug
Data Designer 0.9.3 removes valid dictionary entries during structured-output parsing with LLMStructuredColumnConfig. This occurs whether output_format is supplied as a Pydantic model or JSON Schema.
Both dict[str, int] and dict[str, JsonValue] are affected:
Input:
{"name": "first", "fields": {"alpha": 1}}
After parsing:
{"name": "first", "fields": {}}
DD rewrites the dictionary schema’s additionalProperties declaration to forbid additional properties, then prunes valid entries.
The resulting empty dictionaries can subsequently cause Parquet writing to fail with:
Cannot write struct type 'fields' with no child field to Parquet.
That downstream error is a consequence of the parser removing the entries.
Steps/Code to reproduce bug
The attached script mocks model generation while retaining DD’s actual response parser, schema validation, structured-column generation, and storage. No credentials or model calls are required.
uv run --script repro_structured.py --case typed-map
uv run --script repro_structured.py --case json-map
Each command tests both Pydantic and JSON Schema declarations. Inspect Parsed before storage to see the removed entries.
Tested with:
data-designer==0.9.3
pydantic==2.14.1
pandas==2.3.3
pyarrow==24.0.0
Expected behavior
Structured-output parsing should preserve dictionary entries permitted by the declared schema. Typed dictionaries should retain their keys and validate their values against the declared value schema.
Agent Diagnostic / Prior Investigation
Bug was encountered when making changes to a DD pipeline. Issue content and reproduction scripts are AI generated and human reviewed.
The reproduction records parsed values before storage, confirming that entries are removed during parsing.
Additional context
The original description document a separate but related Parquet storage problem that is now tracked independently in #1045.
Checklist
- I reproduced this issue or provided a minimal example
- I searched the docs/issues myself, or had my agent do so
- If I used an agent, I included its diagnostics above
- Lingua principale
- Python
- Stelle
- 2.4k
- Fork
- 234
- Merge medio
- 20h 48m
- PR unite (30g)
- 78
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di NVIDIA-NeMo/DataDesigner
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 77/100
NVIDIA-NeMo/DataDesigner#1092 ·
I maintainer di solito rispondono entro 1 giorno
-
bug triaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
NVIDIA-NeMo/DataDesigner#1089 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
`ValidationColumnConfig` misaligns rows and discards the whole batch after an upstream row is droppedForse già presa @suryapilla l’ha presa 4 giorni fa. Apertatriaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
NVIDIA-NeMo/DataDesigner#1073 · 4 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
docs: required_columns description is incomplete for LLM and multimodal columnsForse già presa @rksharma-owg l’ha presa 10 giorni fa. Apertabug triaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
NVIDIA-NeMo/DataDesigner#1002 · 4 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
enforce \from future import annotations` via ruff FA102 rule`Forse già presa @chethanuk l’ha presa 46 giorni fa. Apertatask
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
NVIDIA-NeMo/DataDesigner#760 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di NVIDIA-NeMo/DataDesigner
Issue simili
-
area/config comp/tools P2 platform/telegram type/bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
NousResearch/hermes-agent#145412 ·
I maintainer di solito rispondono entro 1 giorno
-
[oblt-aw][autodoc] Update docs for security org scaffolding and Docs AI menu permission changesForse già presa @github-actions l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
I maintainer di solito rispondono entro 1 giorno
-
Community project: hosted MOSS-Image studio with a visual JSON layout builder (no ComfyUI needed)Aperta
Difficoltà 1/5 1-3 ore Idoneità per principianti 65/100
OpenMOSS/MOSS-Image#27 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
deepspeedai/DeepSpeed#8925 · 1 commento ·
I maintainer di solito rispondono entro 3 giorni
-
external integration integration-submission
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
langchain-ai/docs#7077 ·
I maintainer di solito rispondono entro 1 giorno