PaddlePaddle/models

data/dataset/youtube8m将tfrecord转为pkl

Open

#3.803 geöffnet am 29. Okt. 2019

Auf GitHub ansehen
 (2 Kommentare) (0 Reaktionen) (1 zugewiesene Person)Python (2.956 Forks)batch import
help wanted

Repository-Metriken

Stars
 (6.853 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

当文件较多时，后面的转换速度会越来越慢，有没有好的处理方式？tf2pkl.py

Contributor Guide

Research-Richtung
Untersuche das tf2pkl.py Skript, um die aktuelle Konvertierungslogik zu verstehen. Profiliere den Code, um herauszufinden, warum die Leistung mit mehr Dateien abnimmt, möglicherweise aufgrund von Speicher oder E/A Engpässen. Erwäge die Implementierung von Batch Verarbeitung oder die Verwendung von Multiprocessing. Überprüfe die Diskussionen im Repository oder die Kommentare der Maintainer auf bekannte Lösungen oder geplante Verbesserungen.
Tech Stack
pythontensorflow
Domain
datamachine learning
Issue Type
Performance
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Veraltet
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Recherche nötig
Voraussetzungen
Basic Python knowledgeUnderstanding of TFRecord format
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
20