microsoft/SynapseML

`/tmp` cleanups

Open

#268 ouverte le 21 mars 2018

Voir sur GitHub
 (1 commentaire) (0 réactions) (1 assigné)Scala (5 228 stars) (861 forks)batch import
buggood first issuehelp wanted

Description

There are still a pile of stuff left in /tmp, all directories. The offending name patterns that need to be clean up are:

  • SavedModels-<N> (I just cleaned almost 19 thousand of these)
  • MML-Test-<N> (about 700)
  • MML-Test-<N>powerBI.parquet (about 160)

Most of these are empty directories, so perhaps there is some broken cleanup that removes files but not the directories. The last pattern is the only one that has files left in it.

Guide contributeur

Stack technique
shell
Domaine
devops
Type d'issue
chore
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
1
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
under 1 hour
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
stale
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
clear
Prérequis
basic shell scriptingfamiliarity with Linux filesystemability to test safely
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
80
Direction de recherche
The issue lists three directory patterns in /tmp: SavedModels <N>, MML Test <N>, and MML Test <N>powerBI.parquet. Most are empty directories. A solution would involve writing a shell script using `find` to locate and remove these empty directories, ensuring they are not in use. Check the SynapseML codebase for any processes that create these directories to avoid conflicts. Start by listing them with `find /tmp type d name 'SavedModels *'` and verify emptiness before deletion. Consider adding a dry run option.