Inconsistent CLI parameters to specify resources requests and limits across training and inference
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 35/100
Línea de trabajo
Compara los parámetros de recursos de training con los parámetros resources-requests y resources-limits de los custom-endpoint, y revisa después el issue 306 para conocer los requisitos de dispositivos de EFA y Neuron. Define un enfoque de CLI coherente para training e inference, incluido el manejo de dispositivos, y verifica que ambas rutas de comandos expongan los mismos conceptos de recursos.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
For training, the CLI parameters are:
--accelerators INTEGER Number of accelerators (GPUs/TPUs)
--vcpu TEXT Number of vCPUs
--memory TEXT Amount of memory in GiB
--accelerators-limit INTEGER Limit for the number of accelerators (GPUs/TPUs)
--vcpu-limit TEXT Limit for the number of vCPUs
--memory-limit TEXT Limit for the amount of memory in GiB
For inference (custom endpoints), the CLI parameters are:
--resources-requests JSON JSON object of resource requests, e.g. '{"cpu":"1","memory":"2Gi"}'
--resources-limits JSON JSON object of resource limits, e.g. '{"cpu":"2","memory":"4Gi"}'
Also, as mentioned in issue 306 (https://github.com/aws/sagemaker-hyperpod-cli/issues/306), the CLI should offer a consistent way to specify EFA (and Neuron) devices.
- Lenguaje dominante
- Python
- Estrellas
- 41
- Forks
- 95
- Merge medio
- 18 h 29 min
- PR fusionados (30 d)
- 5
Preparar el entorno
- Sin Dockerfile ni archivo de Docker Compose
- Tiene una plantilla de pull request
- Leer la guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de aws/sagemaker-hyperpod-cli
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
aws/sagemaker-hyperpod-cli#348 ·
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 68/100
aws/sagemaker-hyperpod-cli#314 ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
aws/sagemaker-hyperpod-cli#431 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 55/100
aws/sagemaker-hyperpod-cli#384 ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 45/100
aws/sagemaker-hyperpod-cli#353 ·
Todos los issues de aws/sagemaker-hyperpod-cli
Issues similares
-
Examples say cnxAbiertodocumentation embedded
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
Los mantenedores suelen responder en 1 día
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 88/100
Alishahryar1/free-claude-code#2111 ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
Los mantenedores suelen responder en 1 día
-
namespace operations
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
EclipseFdn/open-vsx.org#14373 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 85/100
Los mantenedores suelen responder en 1 día