Autoscaling configuration for custom endpoints misses some capabilities
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 45/100
Direzione di ricerca
Inizia individuando il template di autoscaling di custom-endpoint utilizzato dalla CLI, quindi confronta i campi disponibili con il riferimento all'autoscaling di SageMaker HyperPod collegato. Il lavoro è completato quando il template espone i limiti delle repliche, le impostazioni di cooldown, il trigger Prometheus e le altre funzionalità mancanti documentate, con la relativa validazione o i test della CLI aggiornati, se presenti.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
The autoscaling configuration for custom endpoints misses some configurations in the template, including min and max replica counts, cooldown period and more.
The Prometheus trigger is also missing.
The problem is that these parameters are completely missing from the template so there is no way to use them with the current CLI.
- Lingua principale
- Python
- Stelle
- 41
- Fork
- 95
- Merge medio
- 18h 29m
- PR unite (30g)
- 5
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di aws/sagemaker-hyperpod-cli
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
aws/sagemaker-hyperpod-cli#348 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 68/100
aws/sagemaker-hyperpod-cli#314 ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100
aws/sagemaker-hyperpod-cli#431 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100
aws/sagemaker-hyperpod-cli#384 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
aws/sagemaker-hyperpod-cli#353 ·
Tutte le issue di aws/sagemaker-hyperpod-cli
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
omegaup/omegaup#10353 · 1 commento ·
I maintainer di solito rispondono entro 5 giorni
-
bot-triaged module: LrScheduler module: optimizer triaged
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
I maintainer di solito rispondono entro 1 giorno
-
documentation glm5 llm-model
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
vllm-project/vllm-ascend#19062 ·
I maintainer di solito rispondono entro 1 giorno
-
Author Page: shuai-zhao-llmApertaauthor-page correction
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
acl-org/acl-anthology#10496 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno