skypilot-org/skypilot

[GCP] Move from `gsutil cp/rsync` to `gcloud storage cp/rsync`

Open

#8 457 ouverte le 30 déc. 2025

Voir sur GitHub
 (3 commentaires) (0 réactions) (0 assignés)Python (311 forks)batch import
good first issuegood starter issues

Métriques du dépôt

Stars
 (4 859 stars)
Métriques de merge PR
 (Merge moyen 2j 23h) (146 PRs mergées en 30 j)

Description

According to https://docs.cloud.google.com/storage/docs/working-with-big-data, gcloud storage cp is much faster due to optimizations in automatic parallelism. We can migrate the usage gsutil cp in https://github.com/skypilot-org/skypilot/blob/e6a41b121ae27c33e1815ecf316858752dcc9982/sky/data/storage.py#L2370.

I manually tried a few file downloads with gcloud storage cp, it easily saturates the 300MB/s throughput, i.e. it worth a try.

Guide contributeur

Direction de recherche
Inspectez le fichier sky/data/storage.py autour de la ligne 2370 pour comprendre l'utilisation actuelle de gsutil cp/rsync. Remplacez par des commandes équivalentes gcloud storage cp/rsync, en assurant le même comportement et en optimisant le parallélisme. Testez avec des fichiers exemples pour vérifier la fonctionnalité et l'amélioration des performances.
Stack technique
pythonshell
Domaine
backendcloud
Type d'issue
Refactorisation
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GitPythonGoogle Cloud SDK
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
70