refactor: finalize dataset directory before media initialization
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
Start with ArtifactStorage.validate_folder_names() and DatasetBuilder.build() to trace when the dataset name is cached, resume decisions are made, and media storage is initialized. Review the regression tests for fresh runs, resume outcomes, concurrent allocation, image paths, and previews; done means the finalized path is used consistently while those behaviors remain covered.
索引モデルが issue の本文から書いたものです。
説明
Priority Level
Low
Task Summary
Finalize the dataset directory after the resume decision and before initializing media storage. Give each run one final path so normal generation does not need to rewrite the cached dataset name or refresh media paths afterward.
Technical Details & Implementation Plan
- Defer media storage initialization until the dataset directory is finalized.
- Keep fresh-directory allocation atomic, including collisions on the base and timestamped names.
- Preserve compatible resume, incompatible
IF_POSSIBLEfallback, completed-run short-circuits, and previews that do not create dataset directories. - Simplify cached-name invalidation and media-path refresh where the revised lifecycle makes them unnecessary.
- Cover fresh runs, resume decisions, concurrent allocation, image paths, and previews with regression tests.
Investigation / Context
Requested in Nabin's review comment, following the collision fix in #1051 for #1050.
ArtifactStorage.validate_folder_names() currently initializes MediaStorage using base_dataset_path, which resolves and caches the dataset name during construction. DatasetBuilder.build() later decides whether to resume or start fresh. Fresh-directory allocation can change the chosen name, requiring a cache rewrite and refresh_media_storage_path().
Dependencies
Follow-up to #1051. This refactor does not block that bug fix.
- 主要言語
- Python
- スター
- 2.3k
- フォーク
- 227
- 平均マージ
- 22時間 13分
- マージ済み PR（30日）
- 63
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートあり
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
NVIDIA-NeMo/DataDesigner のほかの issue
-
docs: required_columns description is incomplete for LLM and multimodal columns対応中かも @rksharma-owg が 4 日前に担当しました。 オープンbug triaged
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
NVIDIA-NeMo/DataDesigner#1002 · コメント 4 件 ·
メンテナーはふだん 1 日以内に返信
-
enforce \from future import annotations` via ruff FA102 rule`対応中かも @chethanuk が 39 日前に担当しました。 オープンtask
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
NVIDIA-NeMo/DataDesigner#760 ·
メンテナーはふだん 1 日以内に返信
-
dependencies task
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
NVIDIA-NeMo/DataDesigner#1054 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 5/5 1週間以上 初心者へのやさしさ 45/100
NVIDIA-NeMo/DataDesigner#1048 ·
メンテナーはふだん 1 日以内に返信
-
Parquet checkpointing adds null dictionary entries and rejects mixed JSON arrays対応中かも @nabinchha が今日担当しました。 オープンbug needs-discussion
難易度 4/5 3〜5日 初心者へのやさしさ 48/100
NVIDIA-NeMo/DataDesigner#1045 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
NVIDIA-NeMo/DataDesigner の issue をすべて見る
似ている issue
-
Use mhctools predictor_required=False for saved-result rescoring対応中かも @iskandr が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 79/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 85/100
521xueweihan/HelloGitHub#4051 · コメント 1 件 ·
-
bug documentation
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
awslabs/visual-asset-management-system#514 ·
メンテナーはふだん 1 日以内に返信
-
backend bug spec:REQ-053
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
nolte/kamerplanter#2547 ·
メンテナーはふだん 1 日以内に返信